Около двух миллионов уникальных «цифровых приманок» разошлись по промптам через сеть AI-сервисов. AWS access keys, SSH-пароли, приватные URL, DNS-имена и ссылки на приватные git-репозитории исследователь HD Moore вставлял по одной штуке в каждый запрос, чтобы выяснить, что происходит с конфиденциальной информацией, которую доверяют нейросетям. Вывод эксперимента короткий: экосистема утекает высокочувствительные данные (отчёт Ars Technica).
Причина в архитектуре. AI-приложение редко обращается к модели напрямую: между ним и inference-движком стоят AI-роутеры и AI-шлюзы, такие как OpenRouter или Vercel. Они получают большие потоки промптов от конечных пользователей и направляют их доступному движку по критериям вроде минимальной цены или лучшей пригодности модели для задачи. Каждое звено видит текст запроса целиком, вместе со всеми секретами внутри.
Что показал эксперимент HD Moore с двумя миллионами приманок
Метод строился вокруг атрибуции. Moore собрал коллекцию AWS access keys, рабочие учётные данные от пустых AWS-аккаунтов, пароли к сервисам вроде SSH, а также уникальные URL, DNS-имена и ссылки на приватные git-репозитории. Ни один секрет раньше не использовался, а инфраструктура, которая приняла бы запрос с этими учётными данными, принадлежала исследователю. Каждую приманку он вставил ровно в один промпт, отправленный одному провайдеру.
Логика простая. Если по конкретному ключу приходит обращение, значит именно этот промпт и именно это звено цепочки его слили. Статистика по «среднему провайдеру» здесь не нужна, нужен один факт срабатывания конкретной приманки.
Почему приманки называют «канарейками»
Название отсылает к птицам, которых брали в угольные шахты: канарейка теряла сознание от газа раньше человека и работала живым датчиком. В эксперименте роль такой птицы играет уникальный секрет, который первым сигнализирует, что данные вышли за пределы ожидаемого контура. Разница в точности: шахтёрская канарейка предупреждала об опасности в целом, цифровая указывает на конкретное звено.
Уникальность и есть механизм атрибуции. Одинаковый ключ, разосланный сотне сервисов, покажет только сам факт утечки. Приманка, привязанная к одному промпту и одному провайдеру, даёт адрес: кто получил текст запроса и что с ним сделал дальше.
Что именно попало в промпты
Набор приманок отражает то, что реальные люди вставляют в запросы при отладке и постановке задач. AWS access keys и другие облачные учётные данные. Пароли к сервисам вроде SSH. Уникальные URL и DNS-имена внутренних хостов. Ссылки на приватные git-репозитории.
Каждый тип опасен по-своему. Ключ открывает доступ к облачным ресурсам и биллингу. Внутренний URL или DNS-имя раскрывает топологию сети: какие сервисы есть, как они называются, иногда какой стек используется. Ссылка на приватный репозиторий ведёт к исходному коду. В эксперименте ключи привязали к пустым аккаунтам: приманка остаётся рабочей, но ничего не ломает при утечке. В реальной жизни за таким ключом стоят живые ресурсы.
Границы выводов обозначим сразу. Публикация не сообщает, какие конкретно звенья допустили утечки, в каком объёме и в какие сроки шёл эксперимент. Формулировка «экосистема утекает чувствительные данные» описывает результат серии наблюдений, а не приговор каждому провайдеру в отдельности. Детали методологии и полную статистику материал не раскрывает, поэтому переносить вывод на конкретный сервис без собственной проверки нельзя.
Как устроена цепочка AI-сервисов: от приложения до inference-движка
Типичный путь промпта выглядит так:
- AI-приложение конечного пользователя собирает запрос, системный промпт и контекст.
- Запрос уходит в AI-роутер или AI-шлюз: OpenRouter, Vercel или аналогичный брокер.
- Брокер выбирает доступный inference-движок по цене, загрузке или пригодности модели.
- Движок генерирует ответ и возвращает его по той же цепочке назад.
- Каждое звено может писать логи, кэшировать запросы и передавать их дальше по своей инфраструктуре.
Зачем вообще нужны AI-роутеры и шлюзы
Мотивация у разработчиков практическая. Один API вместо нескольких интеграций. Возможность переключить модель под задачу, не переписывая код. Отказоустойчивость: если один движок недоступен, запрос уходит на другой. И цена: брокер может отправить запрос туда, где inference дешевле. Вместо прямого контракта с Anthropic, OpenAI или другим крупным провайдером разработчик нанимает роутер, который ищет подходящую модель.
Злого умысла в этой схеме нет. Инженерное удобство само по себе расширяет поверхность атаки: чем больше участников обрабатывают текст запроса, тем больше мест, где он может осесть.
Где в цепочке возникают утечки
Потенциальных точек несколько, и они не равнозначны.
- Приложение. Логи запросов и ответов, трассировки ошибок, отладка. Секрет из промпта попадает в лог-хранилище, к которому имеет доступ команда, а иногда и внешний сервис мониторинга.
- Роутер или шлюз. Балансировщик видит промпт целиком, чтобы принять решение о маршруте. Логи, кэш и аналитика на его стороне добавляют копии запроса.
- Провайдер или inference-движок. Обработка запроса, хранение для отладки или обучения, если это разрешено условиями.
- Промежуточные сервисы. Мониторинг, трейсинг LLM-приложений, прокси, self-hosted шлюзы. Каждый такой сервис получает текст запроса в открытом виде.
Эксперимент подтвердил сам факт утечки через распределённую инфраструктуру, но не распределил вину по звеньям. Вопрос «кто именно сливает» остаётся открытым и требует отдельной проверки на своём стеке.
Чем это грозит: риски для разработчиков и пользователей
Роли разные, и риск считается по-разному.
Разработчик приложения. Утечка ключей и учётных данных, которые он передал в промпте, означает компрометацию инфраструктуры: облачные ресурсы, приватные репозитории, внутренние URL. Дальше по цепочке идут счета за чужой compute, доступ к закрытому коду, разведка внутренней сети по утёкшим DNS-именам. Отдельная проблема: разработчик может не знать, что его промпт проходит через посредника, о котором он не договаривался.
Пользователь чужого AI-сервиса. Его данные в промпте идут через цепочку, состав которой он не контролирует и часто не видит. Кто хранит запрос, сколько и по какой политике, решает не он. Практический вывод простой: не кладите в промпт то, что не готовы увидеть в чужом логе.
Масштаб риска зависит от содержимого промпта, а не от репутации модели: утечка секрета и низкое качество ответа лежат на разных осях. Разбирая похожие истории про агентов и песочницы, полезно отделять подтверждённое от громких формулировок: что в отчётах об инцидентах подтверждено, а что остаётся спекуляцией.
Как снизить риск утечки секретов в промптах
Меры выстроены по приоритету: от того, что даёт эффект сразу, к тому, что требует инженерной работы.
- Уберите секреты из текста промпта. Ключи, пароли и токены не должны попадать в запрос. Для отладки берите фиктивные значения, для демонстрации проблемы - заведомо недействительные. Признак результата: поиск по паттернам ключей в исходящих промптах не находит совпадений.
- Храните секреты в переменных окружения и секрет-менеджерах. Код и промпт-шаблоны читают значение из окружения, а не содержат его. Признак результата: ротация ключа не требует правки текста запросов.
- Фильтруйте исходящие промпты. DLP-подход на регулярных выражениях по паттернам известных ключей и токенов, блокировка на выходе, а не предупреждение в логе. Признак результата: тестовый промпт с фальшивым ключом не уходит наружу.
- Ограничьте логирование. Проверьте, что пишут в логи приложение, роутер и провайдер, и отключите запись тел запросов там, где она не нужна. Признак результата: в логах нет полного текста промптов с чувствительными данными.
- Сократите число посредников для чувствительных задач. Меньше звеньев, которые видят промпт, меньше мест для копий.
Что убрать из промптов в первую очередь
Приоритет такой: облачные учётные данные (AWS access keys и аналоги), SSH-пароли и другие пароли к сервисам, приватные URL и DNS-имена внутренних сервисов, ссылки на приватные git-репозитории.
Почему именно этот порядок. Ключ даёт прямой доступ к ресурсам и деньгам: его утечка измеряется счётом за compute. Пароль к SSH открывает хост. Приватный URL раскрывает внутреннюю топологию и часто работает как слабая авторизация: кто знает адрес, тот может постучаться. Ссылка на git-репозиторий ведёт к исходникам, где секретов обычно больше, чем в промпте.
Отдельно про скриншоты и «примеры из продакшена». Конфиг, вставленный в чат целиком, содержит всё то же самое, плюс окружение, которое вы не собирались показывать.
Когда стоит выбирать локальную модель
Локальный запуск уместен, когда промпты содержат чувствительные данные и нет доверенного провайдера с понятной политикой хранения. Промпт не покидает контролируемую инфраструктуру, логи остаются вашими.
Плата за это конкретная: требования к железу (GPU и VRAM), качество модели может уступать крупным провайдерам на сложных задачах, обслуживание и обновления на вашей стороне. Локальная LLM снимает риск утечки через внешнюю цепочку, но не отменяет внутренние: логи, права доступа, изоляция и мониторинг остаются на вас. Как это выглядит на практике, разобрано в материале про инцидент в песочнице и меры изоляции при локальном запуске агентных LLM.
Роутер или прямой провайдер: как выбирать с оглядкой на безопасность
Компромисс укладывается в таблицу.
| Критерий | AI-роутер или шлюз | Прямой провайдер |
|---|---|---|
| Число звеньев, видящих промпт | Больше: брокер плюс выбранный движок | Меньше: приложение и провайдер |
| Гибкость выбора модели | Высокая, модель меняется под задачу | Ограничена контрактом с одним или несколькими провайдерами |
| Цена | Может быть ниже за счёт маршрутизации на дешёвый движок | Зависит от тарифа провайдера |
| Предсказуемость обработки данных | Нужно читать условия и брокера, и движка | Один набор условий |
Практический критерий простой: для задач с чувствительными данными минимизируйте число посредников и читайте условия обработки и хранения у каждого звена. Роутеры не небезопасны по определению, риск зависит от политики конкретного сервиса и от того, что вы кладёте в промпт. Ключ, вставленный в запрос, утечёт и через идеально документированный брокер.
Ещё один слой, который стоит проверить до подписания условий, это прозрачность самого провайдера. Часть лабораторий не раскрывает системные промпты даже для аудита под NDA, и это меняет то, что вы вообще можете проверить: чем закрытые системные промпты грозят разработчикам на API. Архитектура приватности при этом бывает вполне конкретной: пример с шифрованием и secure enclave разобран в материале про постоянную серверную память в Private AI Compute. Обе схемы проверяются одним вопросом: что именно провайдер хранит после ответа и как долго.
Как проверить свой стек на утечки
Подход повторяет логику эксперимента, только в меньшем масштабе и на своей инфраструктуре.
- Сгенерируйте уникальные тестовые маркеры: недействительные ключи с узнаваемым префиксом, уникальные поддомены и URL, ведущие на подконтрольный вам хост, метки в тексте промпта.
- Отправьте их через свой стек: приложение, роутер, провайдер. Каждый маркер в отдельном запросе, чтобы сохранить атрибуцию.
- Смотрите, что происходит с маркерами: появляются ли они в логах приложения и роутера, приходят ли запросы на подконтрольный домен, попадают ли они в трейсы мониторинга.
- Проверьте настройки логирования у каждого звена и сроки хранения. Часто проблема не в злом умысле, а во включённом по умолчанию трейсинге.
Границы у такой проверки есть. Полноценный аудит требует доступа к настройкам всех звеньев и понимания их политик; без этого картина будет частичной. Собственная канарейка покажет утечку на вашем пути запроса, но не докажет, что сервис чист. Методика проверки инфраструктуры и прав доступа подробно разобрана в статье про аудит безопасности AI-агентов и сетевую гигиену.
Начать стоит с одного действия: поиска по кодовой базе и промпт-шаблонам на паттерны ключей. Это дешевле, быстрее и находит больше, чем любая настройка роутера.