✨Бесплатная✨память для SillyTavern
Я слишком увлеклась копанием в таверне, чтобы рассказать вам всё, и начала разбираться уже в том, что точно не войдёт в первое видео. Но безумно хочу поделиться небольшой инфой с теми, кто уже пользуется таверной и разобрался в лорбуках (WorldInfo).
Как работает обычно: вы заполняете ключевые слова, описание, и ИИ "вспоминает" записи, когда упоминается ключевое слово. А можно как-то сделать его поумнее? ДА. Мы подключаем RAG.
Пример. Скрин первый: запись в лорбуке, где нет ключевых слов. Скрин второй: я спрашиваю у Серафины про домашнее животное (запрос не совпадает со словами в записи).
Как подключить
- Идём сюда и ставим Ollama https://ollama.com (https://ollama.com/)
- Отрываем командную строку/терминал и вводим туда
ollama pull mxbai-embed-large
Модель маленькая, она чисто переводит ваши записи из буковок в циферки. Так что спокойно можно запускать и пользоваться пк дальше.
- Идём в настройки API (розеточка, где мы вводили ключ) и выставляем всё так, как на третьем скрине. Нажимаем подключиться.
- Идём в настройки расширений (три кубика) и выбираем там Vector Storage. Настраиваем, как на четвёртом скрине.
- Возвращаем настройки API, как было (снова выбираем Chat Completion, оно само всё вернётся).
Поздравляю, вы великолепны. Теперь ваши записи будут вызываться не по ключевым словам, а по смыслу.
