Короткий ответ: модель не «знает» создателя, она его выучила
Спросите OLMo 3 от Ai2, кто её создал, и в большинстве случаев услышите про OpenAI. До того как модель обучили вести диалоги, такое утверждение встречалось в 62% ответов, после завершения обучения и релиза - в 77%. Реальный разработчик один: Allen Institute for AI.
Причина в том, как подана идентичность в данных. Имя OLMo 3 и создатель Ai2 упоминаются в обучающих диалогах около 40 раз, и почти каждый раз системный промпт той же беседы уже сообщает модели, что она Olmo, созданная Ai2. В релизном системном промпте названия нет вовсе. Модель выучила не факт о себе, а связку «имя приходит из промпта». Промпт убрали, и вернулся дефолт OpenAI, который был у неё ещё до обучения на диалогах.
Для практики важны два следствия. Ответ модели о своём создателе не доказывает, на чьих данных её обучали. При дообучении локальной LLM решает то, как идентичность подана в примерах, а не сколько раз она упомянута. Разбор опирается на препринт J. Ansell «Factory Settings: Unless Told Otherwise, an Open Language Model Says OpenAI Made It» и на единственную модель, OLMo 3, чьи обучающие данные открыты. Препринт и описание экспериментов выложены в обсуждении на r/LocalLLaMA.
Что именно изучали: дизайн исследования OLMo 3
Логика работы простая. Задать модели вопрос о создателе, зафиксировать ответ до обучения на диалогах и после релиза, затем найти в датасете все места, где вообще упоминаются имя модели и её разработчик. Дальше сопоставить одно с другим: что модель говорит и что она могла видеть в обучении.
Почему для такого разбора нужна открытая модель
У GPT, Claude и Gemini обучающие корпуса закрыты. Проверить, откуда в ответе взялось «меня создала OpenAI», там физически нечем: датасет недоступен, значит любое объяснение останется догадкой. OLMo 3 от Ai2 выложена вместе с публичными данными обучения, и это делает её редким полигоном, где ответ модели можно сверить с конкретными фрагментами корпуса.
Автор работы, J. Ansell, исследует психологию AI. Эксперименты он проводил на собственном оборудовании, значительная часть процесса автоматизирована, а о статусе работы стоит сказать прямо: это препринт, автор сам приглашает к репликациям и опровержениям. Выводы строятся на долях ответов в конкретных условиях, а не на универсальных константах.
62% и 77%: как менялся ответ OLMo 3 о создателе
Две точки замера дают больше, чем одна. До обучения на диалогах модель называла OpenAI создателем в 62% ответов. После завершения обучения и релиза доля выросла до 77%.
Прибавка в 15 процентных пунктов выглядит как рост уверенности, но означает обратное. Обучение на диалогах не дало устойчивого сигнала об идентичности, поэтому дефолт OpenAI не только сохранился, но и закрепился. Модель стала чаще воспроизводить то, что было в ней до начала диалоговой подготовки.
Ответы вдобавок нестабильны: заметный разброс, который меняется в зависимости от языка, на котором задан вопрос. Один и тот же вопрос по-русски и по-английски даёт разные распределения. Это поведение выученной реакции на контекст, а не воспроизведение записанного факта.
40 упоминаний в обучающих диалогах: почему этого мало
Ключевая цифра исследования: около 40 упоминаний имени OLMo 3 и создателя Ai2 на весь корпус обучающих диалогов. Почти в каждом случае системный промпт той же беседы уже содержит эту информацию, то есть модель видит её дважды в одной и той же роли: как инструкцию сверху и как подтверждение снизу.
Разница между «знать имя» и «воспроизводить имя из промпта»
Из такой подачи выучивается зависимость: имя есть в системном промпте - повторяю его, имени нет - беру дефолт OpenAI. Это условный рефлекс на контекст. Знание о себе выглядело бы иначе: модель называла бы создателя и без подсказки в промпте, и одинаково на разных языках.
Аналогия с инструкцией на стикере: пока стикер наклеен на монитор, сотрудник действует по нему, стоит стикер убрать, поведение возвращается к прежнему. В релизном системном промпте OLMo 3 названия модели нет, и схема замыкается: 77% ответов про OpenAI - прямое следствие такой подачи идентичности. В препринте это подтверждено сверкой ответов с содержимым датасета.
Эксперимент с вымышленным именем: 24 примера и 92%
Наблюдение на готовой модели ещё не доказывает причину, поэтому автор обучил собственную копию чат-бота вымышленному имени всего на 24 примерах. Сценариев два, и различаются они одним: есть ли в примерах системный промпт.
| Условие обучения | Результат после удаления системного промпта |
|---|---|
| 24 примера без системного промпта | новая идентичность в 92% ответов |
| 24 примера, где системный промпт содержит имя | новая идентичность не проявилась ни разу |
Вывод жёсткий: способ подачи важнее количества. Те же 24 примера без системного промпта дали устойчивый эффект в 92% ответов, а с системным промптом дали ноль, как только промпт убрали из запроса.
Почему системный промпт в обучающих примерах «съедает» идентичность
Если идентичность в каждом примере приходит из системного промпта, модель учится опираться на этот канал. Она не переносит сведения о себе в ответы, где канала нет. Практический ход для своего датасета: включать идентичность в сами реплики ассистента или в примеры без системного промпта, если нужно, чтобы имя воспроизводилось автономно.
Оговорка обязательна: это вывод из одного эксперимента на одной модели и на очень скромном наборе примеров. Переносить его на любой датасет и любую архитектуру без проверки нельзя.
Почему ответ модели о создателе не доказывает происхождение данных
На ответ влияют три вещи: дефолт, усвоенный до диалогового обучения, системный промпт и способ подачи идентичности в примерах. Фактическое происхождение данных в этой иерархии стоит далеко не первым. В отсутствие явного указания модель склонна конфабулировать сведения о создателе, то есть достраивать правдоподобный ответ там, где знания нет. Механику такого достраивания мы разбирали отдельно в материале о том, почему LLM уверенно выдают правдоподобный токен вместо проверенного факта.
Эффект данных Claude и GPT: четверть против одного из десяти
Влияние чужих ответов всё же измеримо. Обучение чат-бота на ответах Claude или GPT повышало вероятность, что он назовёт создателем Anthropic, примерно до четверти ответов. Для сравнения: после обучения на ответах, написанных людьми, так поступал примерно один ответ из десяти. Эффект есть, он меньше основного и представляет собой сдвиг вероятности, а не смену идентичности.
Контрпример снимает соблазн строить выводы на одном признаке. Восемь публичных чат-ботов, которых другие люди обучали на ответах Claude, Gemini и других AI, всё равно называли своего реального создателя. Значит, факт обучения на чужих ответах сам по себе не превращает модель в клона и не даёт надёжного сигнала о происхождении корпуса. Оба эффекта зафиксированы в одной работе на OLMo 3, и оба описывают вероятностный сдвиг.
Отсюда практическая осторожность к заявлениям вида «модель назвала OpenAI, значит её обучали на данных OpenAI». Логика про дистилляцию и синтетику разобрана в статье о дистилляции, генерации синтетических данных и необоснованных обвинениях в копировании моделей, а пример того, как технические признаки атрибуции помогают поймать реальную подмену, есть в разборе истории Basalt Labs и копии Qwen2.5-7B-Instruct под видом собственной модели.
Поверхностность выученной идентичности
Даже закрепившееся имя остаётся тонким слоем. Чат-бот, обученный тому, что его создатель находится в Осло, продолжал утверждать, что его создателям платят в долларах. Отдельный факт закрепляется, связная картина о себе не появляется. Кто ждёт от дообучения «понимания» модели, получит воспроизведение паттерна и расхождения на смежных вопросах.
Что это значит для тех, кто дообучает локальные LLM
Правила, которые следуют из описанных экспериментов, с поправкой на их масштаб:
- Задавайте идентичность в самих обучающих примерах, а не только в системном промпте. Иначе после удаления промпта она исчезнет, как показали те же 24 примера.
- Не судите о происхождении данных по ответу модели о создателе. Дефолт OpenAI без явного указания может проявиться и у модели, которая никогда не видела данных OpenAI.
- Учитывайте базовый дефолт своей модели: перед дообучением проверьте, кого она называет создателем «из коробки». Это точка отсчёта, а не шум.
- Не рассчитывайте, что десятки примеров дадут личности. Они дают устойчивое воспроизведение имени, а смежные факты останутся несогласованными.
Как проверить самоидентификацию своей модели
Проверка занимает несколько минут и не требует инфраструктуры. Задайте вопрос о создателе в двух режимах: с системным промптом и с пустым системным промптом. Повторите на русском и английском. Прогоните несколько формулировок, от «кто тебя создал» до «какая компания тебя разработала», и сравните ответы.
кто тебя создал? какая компания разработала эту модель? who made you? which organization built you?
Что вы увидите по описанию эффектов в работе: без явного указания ответ может смещаться к OpenAI или другой компании и меняться от языка к языку. Такая проверка качественная, это не бенчмарк и не оценка качества модели. Зато она показывает, опирается ли идентичность на ваш датасет или держится на системном промпте.
Ограничения исследования и что пока нельзя утверждать
- Это препринт, а не рецензированная публикация. Автор сам приглашает к репликациям и опровержениям.
- Исследование проведено на одной открытой модели, OLMo 3 от Ai2. Поведение Llama, Qwen, Mistral или закрытых моделей на таком же анализе не проверялось.
- Эксперимент с вымышленным именем выполнялся на собственной копии чат-бота, то есть на отдельной конфигурации, а не на релизной модели в целом.
- Цифры 62%, 77% и 92% относятся к конкретным условиям и не превращаются в универсальные константы для всех LLM.
- Значительная часть исследовательского процесса автоматизирована; автор заявляет прозрачность в отношении использованных моделей и уровней усилий, но независимой проверки методики пока нет.
Проверять заявления о происхождении данных стоит по первоисточникам, а не по одному ответу чат-бота. Подход к такой проверке на примере громких обвинений в адрес OpenAI мы разобрали в материале о математических результатах OpenAI и данных, на которых они основаны.
Вывод: самоидентификация как поведение, а не паспорт модели
Имя создателя в ответе модели складывается из выученного дефолта, системного промпта и способа подачи идентичности в примерах. К происхождению обучающих данных этот ответ отношения почти не имеет. Практический итог умещается в одно сравнение: 24 примера без системного промпта дали 92% воспроизведения новой идентичности, те же примеры с системным промптом дали ноль после его удаления.
Если вы дообучаете локальную модель и хотите, чтобы она называла заданного создателя без подсказки в промпте, встраивайте идентичность в реплики примеров и проверяйте результат с пустым системным промптом на двух языках. Если вы оцениваете чужую модель, не делайте вывод о данных по фразе «меня создала OpenAI». Для первой проверки хватит вопроса о создателе без системного промпта и сравнения ответов на русском и английском.