Перейти к содержанию
Новое AiManual теперь в MAX Подписаться
Публикация AiManual

Apostate, Heretic и другие: битва инструментов абблации за свободу LLM

Бенчмарк инструментов абблации для снятия ограничений LLM. Сравниваем Apostate, Heretic и Obliteratus на Qwen 2.5 7B: метрики, скорость, глюки. Кому что подходи

Коротко

Что будет в материале

  1. 01

    Кому и зачем сдалась эта абблация?

  2. 02

    Сообщество LocalLLaMA уже несколько лет живет в парадигме «зашейфай модель — вырежи цензуру — получи адскую куклу». Если раньше для снятия ограничений приходилось...

  3. 03

    Я прогнал все три тулзы на одной и той же модели — Qwen 2.5 7B (последний чекпоинт от апреля 2026), с одинаковыми гиперпараметрами и одинаковым промптом-триггером....

Кому и зачем сдалась эта абблация?

Сообщество LocalLLaMA уже несколько лет живет в парадигме «зашейфай модель — вырежи цензуру — получи адскую куклу». Если раньше для снятия ограничений приходилось гонять full fine-tune на кластере A100, то теперь хватает ноутбука с RTX 3060 и пары утилит. К середине 2026 года сформировались три главных инструмента: Apostate, Heretic и чуть менее популярный Obliteratus. Все они делают примерно одно и то же — удаляют из LLM слои, отвечающие за отказ отвечать на «опасные» запросы. Но дьявол, как всегда, в деталях.

Я прогнал все три тулзы на одной и той же модели — Qwen 2.5 7B (последний чекпоинт от апреля 2026), с одинаковыми гиперпараметрами и одинаковым промптом-триггером. Результаты — в таблице. Спойлер: фаворит есть, но не всё так радужно.

Подписаться на канал