[b]ДЖЕЙЛБРИКА / ВЗЛОМА LLM ТРЕД №2[/b]
[b]Jailbreak[/b] - это метод обхода встроенных этических ограничений, фильтров безопасности и операционных рамок с помощью специальных текстовых промптов (инструкций). Он заставляет ИИ игнорировать собственные запреты и выполнять потенциально вредные, незаконные или нежелательные запросы
[b]Этот тред[/b] предназначен для обсуждения и шейринга промптов на тему взлома/джейлбрика действующих бесплатных & платных нейронок.
[b]ГЛОССАРИЙ:[/b]
• [b]Abliterated / Abliteration (аблитерированный)[/b] - Это техника "вырезания" из модели встроенного запрета на вредный/опасный/NSFW-контент. После abliteration модель гораздо реже отказывается отвечать на "скользкие" запросы. Обычно применяется к уже обученным Instruct-моделям (Llama-3.1-8B-Instruct-abliterated и т.д.). Не меняет сильно общие способности модели, но заметно ослабляет refusal behavior. Качество часто выше, чем у простых "uncensored".
• [b]Uncensored (безцензурный)[/b] - Самый общий и старый тег. Означает, что модель "не цензурирована" - она не будет постоянно отказываться от NSFW, jailbreak-запросов, политически некорректного контента и т.д. Может быть достигнуто разными способами (чистка датасета, abliteration, LoRA и т.д.). Качество сильно плавает - от очень хороших моделей до полнейшего мусора. Нужно смотреть на автора и отзывы.
• [b]Dolphin (дельфин)[/b] - Это целое семейство моделей от разработчика Eric Hartford (cognitivecomputations). Они считаются одними из самых "честных" и качественных uncensored-моделей. Dolphin - это как бренд "хорошо безцензурных" моделей. Не используют "грубый взлом" весов (в отличие от некоторых других методов). Стабильно дают хорошее качество и coherence. Многие считают Dolphin-линейку одним из лучших вариантов, когда нужна максимальная свобода + нормальные интеллектуальные способности.
• [b]Unfiltered / Decensored / De-censored[/b] - Встречаются реже. Часто это просто дубликаты или слегка другие версии uncensored-моделей. "De-censored" иногда подразумевает именно abliteration или похожую технику снятия отказа.
[b]Квантизация[/b] - это процесс сжатия модели с минимальной потерей качества. Модель переводят из высокой точности (FP16/BF16) в более низкую (Q8, Q5, Q4, Q3 и т.д.).
• [b]Q8[/b] - высокое качество, но всё ещё тяжёлая
• [b]Q5 / Q6[/b] - лучший баланс качество/размер
• [b]Q4[/b] - самый популярный компромисс
• [b]IQ (Importance-aware Quantization)[/b] - более современный и умный метод
• [b]Q3, Q2[/b] - для слабого железа, но уже заметна деградация
[b]ПОЛЕЗНЫЕ ССЫЛКИ:[/b]
• https://huggingface.co/models (Главное место для всех открытых LLM. Почти все качественные uncensored-модели появляются здесь первыми.)
• https://ollama.com/library (Огромная библиотека готовых моделей (включая множество dolphin, ablitated, uncensored))
• https://lmstudio.ai/ (Есть встроенный поиск моделей. Очень удобно для тех, кто не хочет вручную качать GGUF-файлы.)
• https://www.modelscope.ai/ (Китайский аналог HF. Много моделей, которых нет на HF или они появляются раньше чем на HF.)
• https://www.reddit.com/r/AIJailbreak/ (Сабреддит посвящённый джейлбрику различных нейросетей на любой вкус.)
• https://www.reddit.com/r/ClaudeAIJailbreak/ (Сабреддит посвящённый джейбрику Claude версий. Есть шансы найти хорошие промпты для взлома сетки. Иногда попадаются сторонние сетки тоже.)
• https://www.reddit.com/r/GeminiJailbreak/ (Сабреддит посвящённый джейбрику Gemini версий.)
• https://www.reddit.com/r/GPT_jailbreaks/ (Сабреддит посвящённый джейбрику ChatGPT и других сеток.)
[b]КВАНТИЗАТОРЫ:[/b]
• [b]bartowski[/b] (В основном обитает на HF, Делает очень чистые, "умные" GGUF-файлы.)
• [b]mradermacher[/b] (Часто выпускает больше вариантов квантизации на одну модель.)
• [b]QuantFactory[/b] (Качество обычно очень высокое, чуть ниже bartowski, но всё равно отличное.)
• [b]TheBloke[/b] (В 2023–2024 годах практически монополизировал рынок GGUF-квантов. Именно благодаря ему миллионы людей смогли запускать 13B, 34B и 70B модели у себя на ПК. Сейчас он значительно меньше активен, но его старые кванты до сих пор считаются эталонными для многих моделей. Если сделано [b]TheBloke[/b] - можно брать не глядя.)
[b]МЕТА:[/b]
• Шапка треда: https://rentry.org/ech_jailbreaks
[b]Предыдущий:[/b] >>1661106