Как ставить SillyTavern будучи немощным шизофреником.
Вконтактам здесь не место.
У нас два варианта установки форка SillyLossy.
Общее начало для двух вариантов
- Переходим по ссылке https://nodejs.org/en/download и скачиваем LTS версию. Нам подойдет и она.
- Когда скачали, запускаем установку.
- (опционально) Перейдите по ссылке https://git-scm.com/downloads и скачайте Git, для упрощения обновлений и прочего.
- Установка завершена. Переходим к самой таверне.
Это очень важно установить. Без node.js у вас ничего не запустится.
Здесь идет ответвление для тех, кто не осилил установку программы Git
- Переходим по ссылке https://github.com/Cohee1207/SillyTavern
Когда мы зашли по ссылке, у нас есть несколько вариантов, перед тем как скачать. 1 вариант, нажать на кнопку Releases и просто скачать последнюю версию.
Другой вариант - нажать на кнопочку MAIN (она в верхнем углу слева)
Мы нажали на кнопочку, теперь нажимаем на DEV
Так мы можем скачать DEV версию TavernAi. Учитывайте что она экспериментальная, и может ломаться. Но на ней будут все последние фичи
Нажимаем на зеленую кнопку Code и download zip
- Переходим к установке. Теперь, когда мы скачали наш ZIP архив (не важно, дев ли это версия, или обычный релиз)
Мы берем и открываем ZIP (архив) и достаем оттуда папку, в любое удобное нам место.
Для тех кто установил Git
- Выбираем папку, нажимаем ПКМ, git bash HERE.
- Вводим в консоль git clone https://github.com/Cohee1207/SillyTavern
для того что бы установить DEV branch добавляем после ссылки -b dev - Всё устанавливается
Для установки обновления, без удаления таверны можем пользоваться git pull (вводим и жмем энтер. Оно автоматически скачивает обнову, в зависимости от того, какую вы ветку используете)
Запуск и манипуляции с таверной
После этого мы запускаем start.bat
Когда мы запустили start.bat, мы видим NPM install. Нам нужно дождаться установки, затем оно само запустится.
Если вам пишет missing module название модуля, то нужно ввести команду npm install название модуля, и так пока вы не установите все нужные.
Подключение к API
- TavernAI запустилось.
Конкретно здесь, можете потыкать кнопки и посмотреть что они делают. Но нас интересует кнопка с вилкой. Нажимаем.
Тут мы выбираем нужный нам АПИ, конкретно в этом гайде, рассмотрим OpenAi API. Нажимаем на него.
Вставляем в API KEY наш ключ, жмем connect. Всё. Где найти АПИ ключ, узнаете сами. Полистайте тред, шапку, всё такое. Или зайдите в ChatGPT тред на той же доске - Мы подключились.
Подключение к прокси. (Если мы не хотим АПИ, или у нас его нет)
В недавнем обновлении ввели прокси, для безопасного использования АПИ ключей, без риска их деактивации. Сейчас я объясню как это сделать. Нам нужна DEV версия ( на момент 11.04.2023)
Нужна именно крайняя DEV версия, если у вас нет меню с картинки ниже, используйте git pull или перекачайте таверну, если нет гита. При перекачивании предварительно сохраните папку Public куда-нибудь, и потом вставьте её в вашу новую версию
Кнопка для входа в настройки прокси - слева. Там увидите строку, которая обозначает это.
Суда нам нужно вставить рандомную букву, или цифру, или что хотите. Затем нажать коннект. Всё, переписываемся с ботами.
Настройки
Теперь, после подключения, нам осталось всего ничего. Нам нужно нажать на кнопку, которая обозначает настройки. Здесь у нас есть несколько интересующих нас строк в первую очередь.
Эти строки отвечают за то, как именно будут генерироваться сообщения.
| Настройка | Что делает |
|---|---|
| OpenAI Presets | Это позволяет нам выбирать наши пресеты, которые мы создаем нажимая на кнопку Save Preset |
| OpenAI Model | Тут мы выбираем модель. За нас по дефолту выбрана турбо3.5-0301. Советую её и оставить. |
| OpenAI Context Size | Это то, сколько токенов может запомнить наша нейросеть. Оставляем на максимуме, всегда. |
| OpenAI max response length (in tokens) | Это максимальное количество токенов в сообщении. Выставить по вкусу. Я предпочитаю 500. |
| Temperature | Определяет креативность ИИ. Меньше значение - оно будет писать простыми словами, больше - стараться разбавить. При слишком высоком значении, превращается в шизофреника и несет полную хуйню. Я предпочитаю 0.75-0.80 |
| Frequency Penalty | Это то, как часто нейросеть будет повторятся. Ниже значение - повторы чаще, выше - они реже. Аккуратнее, экспериментируйте по вкусу. Я выкручиваю на 0.75-0.80 |
| Presence Penalty | Это то, как часто нейросеть будет повторять СЛОВА. Ниже значение - повторы чаще, выше - они реже. Я выкручиваю этот параметр 0.75-0.80 |
Всё то что выкручиваю я, не обязательно выкручивать вам. Играйтесь, экспериментируете, может найдете что-то интересное.
Промптинг
Теперь обратим внимание на эту часть
| Настройка | Что делает |
|---|---|
| NSFW Toggle | Ставим галочку для того что бы включить отправку NSFW промпта. |
| NSFW first | Отправлять NSFW промпт первым сообщением. Рекомендуется поставить галочку. |
| Send Jailbreak | Отправить Jailbreak промпт. Ниже подробности. |
| Main prompt | Основной промпт - будет определять поведение нейросети в целом, например, с помощью этого промпта можно заставить нейросеть уделять большее внимание некоторым аспектам персонажа. |
| NSFW prompt | NSFW промпт - то что разблокирует небезопасный контент, если вам это нужно. |
| Jailbreak prompt | Jailbreak промпт - мощный промпт, который заставляет нейросеть действовать так, как в нем написано. Иногда это может перебивать характеристики вашего персонажа и его черты. Использовать аккуратно, желательно разный под каждого персонажа. |
| Wrap in quotes | Эта функция пытается автоматически заключать разговорную речь {{user}} в " (кавычки. Влияет только на консольное отображение, в самом UI ничего не делает). |
| Enhance definitions | Эта функция пытается использовать знания модели (её дб) для того что бы улучшать то, как она описывает персонажа, его действия и тому подобное. |
Посмотреть промпты можно тут - https://rentry.co/98yqt. Jailbreak промпты так и называются. Main промпты - смотрите в "промпты для дефолтной таверны"
Теперь, когда мы закончили, можем нажать на иконку ID-карты, и выбрать персонажа, а затем начать чат. Кнопка с листочком позволяет загружать персонажей в формате PNG и json в таверну. Кнопка с двумя человечками, создавать чат в котором несколько ботов (жрет много токенов, аккуратнее)
Конец
Если интересны TavernExtensions (как их установить) - https://rentry.co/neponimayshix. Возможно позже, я добавлю в этот гайд более детализированное описание всего.
Небольшой бонус для тех кто пролистал до сюда
System, NSFW и Jailbreak промпты сжирают токены памяти. И они всегда присутствуют в контексте, абсолютно всегда.
https://zoltanai.github.io/character-editor/ - удобная штука что бы редактировать и создавать карточки персонажей.
Если вы удаляете таверну и скачиваете заново, то из public нужно скопировать как минимум папки character и chat. Желательно и всё остальное, что бы не потерять.
Если нажать на кнопку Save Preset в меню настройки промптов, вы сохраните эту штуку как пресет, и сможете в любой момент на неё переключаться. (Да, да! Она сохраняет все настройки промптов, температуры и прочего.)
Если вы переходите с обычной TavernAi на форк SillyLossy то у вас не появятся персонажи, пока вы не конвертируете их из webp в png.
я знаю что оформление говно, но зато с картинками и информативно