Запуск локальной Stable Diffusion вместе с SillyTavern

Пишите/вставляйте каждую команду, прожимаете Enter и ожидайте, пока она закончит!

Подозреваю, что Git у вас так или иначе установлен, так что ограничимся установкой conda, а именно её миниатюрной версией — miniconda3.

  1. Сперва нужно, собственно, открыть свежеустановленную Конду (версию для cmd, не PowerShell).
  2. Теперь нужно создать виртуальное окружение (давайте назовём его extras):
    conda create -n extras
    

Имейте в виду, что для установки всех зависимостей может потребоваться 15-25 гб свободного места.

  1. Теперь активируйте только что созданное окружение:
    conda activate extras
    
  2. Установите обязательные зависимости:
    conda install pytorch=2.0.0 torchvision=0.15.0 torchaudio=2.0.0 pytorch-cuda=11.7 git -c pytorch -c nvidia
    
  3. Клонируйте репозиторий с аддонами к SillyTavern:
    git clone https://github.com/Cohee1207/SillyTavern-extras
    
  4. Переместитесь в только что созданную директорию:
    cd SillyTavern-extras
    
  5. Установите все необходимые зависимости:
    pip install -r requirements-complete.txt
    
  6. Запустите API-сервер с аддонами (а точнее с одним лишь StableDiffusion):
    python server.py --sd-remote --enable-modules=sd
    
  7. Копируйте отобразившийся в консоли URL сервера с аддонами, после того как всё запустится; по умолчанию это http://localhost:5100.

На всякий случай проверьте файл config.conf в корневом каталоге своей SillyTavern (там же, где и батник для запуска), найдите там строку const enableExtensions и убедитесь, что там стоит значение true, а не false.

  1. Запустите свою SillyTavern.
  2. Откройте панель аддонов (иконка с "Кубиками" наверху страницы, вторая справа), вставьте туда URL-адрес своего API-сервера с дополнениями, и нажмите "Connect".
  3. Чтобы запустить всё это барахло заново, просто активируйте виртуальное окружение extras через Конду ещё раз, и снова запустите сервер с необходимыми аргументами:
    conda activate extras
    python server.py --sd-remote --enable-modules=sd
    

Ну или поступите проще и создайте ещё один батник примерно с таким содержимым:

call C:\Users\%userprofile%\miniconda3\condabin\activate.bat
call activate extras
cd /d %userprofile%\SillyTavern-extras
python server.py --sd-remote --enable-modules=sd

Готово! Вы восхитительны!

Emergency food

Edit
Pub: 17 May 2023 12:12 UTC
Edit: 17 May 2023 13:11 UTC
Views: 6577