Советы:

Для описания ситуации лучше использовать второе лицо.
Возможно использовать псевдоязык W++ для описания персонажа. Это может повысить понимаемость текста для нейросети. Однако псевдокод может отбирать токены, которые могли пригодиться для описания персонажа. https://nolialsea.github.io/Wpp/
Возможно также прописывать отдельных персонажей или самого себя через "Your's persona:" или "Charname's persona:", но PygmalionAI их хуже держит в памяти, чем в CharacterAI.
Прописывать "World Scenario" обязательно. Это примерно как долговременная память, которая будет помнить примерный контекст, если вы его прописали. Можно добавлять деталь персонажа, как например одежда или происходящее вокруг самого персонажа и его намерения.
Самое важное, что необходимо прописывать в PygmalionAI - это примеры диалогов и приветствие, которые формируют основное влияние на генерируемый текст вместе с параметрами.

Параметры:

"Temperature" отвечает за креативность. В случае низкого параметра, получается повторяемость. В случае высокого параметра, получается бредовость и несвязанность предложений. Рекомендуется ставить от 0.5 до 0.8.
"Repetition penalty" или же штраф за повторяемость - параметр, которая наказывает за повторяемость слов. При моделях 6B и выше, если выставить значение больше 1.2, то это может сломать модель. Рекомендуется ставить от 1.1 до 1.18.
Сэмплинг "Top-p" - Отрицательный фильтр, который предопределяет предсказуемость слов. Чем ниже значение, тем более предсказуемо будет предложение. Для того, чтобы отключить, необходимо выставить значение в 1. Рекомендуется поставить значение к 0.9.
Сэмплинг "Top-k" - Положительный фильтр, который с увеличением параметра, повышает количество пропускаемых слов. Чтобы отключить его, нужно выставить значение к 0. Можно повысить значение до 10, чтобы повысить креативность текста.
Сэмплинг "Typical p" или же "Typical" - Для того, чтобы отключить его, нужно выставить значение к 1. Изменить значение можно до 0.8, если вы желаете повысить креативность текста.
Более подробно с параметрами настроек можно ознакомиться тут: https://github.com/KoboldAI/KoboldAI-Client/wiki/Settings
Для прописывания диалогов в PygmalionAI используется такой формат, при этом имена указываются напрямую:
Your_Сhar: Действие. Прямая речь.
You: Действие. Прямая речь.
<START> - используется, как конец диалога.
Для TavernAI используется практически CAI стиль диалогов, за исключением того, что вместо {{END_OF_DIALOG}} нужно прописывать <START>.

Edit
Pub: 08 Feb 2023 14:52 UTC
Edit: 08 Feb 2023 16:02 UTC
Views: 1198