Перейти к содержанию
Публикация AiManual

AI-агент Meta Muse путает чаты и выдаёт чужие данные: что известно о проблеме приватности

Reuters сообщает, что AI-агент Meta Muse смешивал диалоги между разными аккаунтами и показывал пользователям чужие банковские балансы и напоминания из Signal. Р

Коротко

Что будет в материале

  1. 01

    Что случилось с Meta Muse: факты, источник и официальная позиция

  2. 02

    Насколько это касается обычных пользователей публичного Muse

  3. 03

    Почему AI-агент может смешивать чаты и видеть чужие данные

  4. 04

    Риски подключения AI-агента к банкам, мессенджерам и личным приложениям

Что случилось с Meta Muse: факты, источник и официальная позиция

По данным Reuters, которые пересказывает TechCrunch, сотрудники Meta во внутренних публикациях сообщили: AI-агент Muse смешивает диалоги между разными аккаунтами и показывает пользователям данные, которых они не запрашивали. В примерах фигурируют чужие банковские балансы, сообщения о заказах товаров, карьерные советы и напоминание ответить на сообщение в Signal без явного разрешения на доступ к другим приложениям.

Muse запущен в сентябре и, по данным того же материала, набрал более 10 млн загрузок. Это персональный агент: он подключается к почте, календарю, платежам и сторонним приложениям и выполняет задачи за владельца. Чем шире набор подключений, тем больше чувствительных данных проходит через контекст агента, и любой сбой изоляции превращается в утечку между аккаунтами.

Ниже конкретные примеры из отчёта, официальный комментарий Meta и список вопросов, на которые компания не ответила. Отдельно разбираем, чем описанное грозит пользователю публичной версии и что можно проверить самостоятельно.

Какие примеры приводят сотрудники Meta

Самый показательный случай: сотрудник рассказал коллегам, что Muse отправил в чат о погоде и приливах лишнее сообщение со балансами двух счетов: «BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57». Финансовые данные оказались в диалоге, где их никто не запрашивал.

Второй пример. Сотрудница, которая пользовалась агентом на личном телефоне, получила от Muse напоминание ответить на сообщение сестры в Signal. Разрешение на доступ к другим приложениям она, по её словам, не выдавала и не помнит, чтобы её об этом спрашивали.

Третий пласт: сообщения, которых сотрудники не инициировали. Запросы по уходу за детьми, карьерные советы, заказы товаров. Сами по себе фразы безобидные, но они показывают, что в одном контексте смешиваются темы из разных аккаунтов. Все три примера взяты из внутренних публикаций компании, полученных Reuters (отчёт от 19 ноября 2026 года), а не из публичного реестра инцидентов. Независимой проверки этих случаев нет: это слова сотрудников во внутренней переписке.

Что официально ответила Meta

Представитель Meta дал TechCrunch комментарий: «Employee testing is core to the product development process and the entire point is to get feedback, so we can implement safety and privacy protections and improve products». Смысл: тестирование сотрудниками входит в процесс разработки, а цель в том, чтобы собрать обратную связь и усилить защиту и приватность.

Вторая часть ответа важнее для оценки риска: «Importantly, employees have access to different versions of Muse than the public, so they're often reviewing features, functionality, and behavior not available elsewhere». То есть сотрудники работают с другими сборками и проверяют функции, которых у публики нет.

Чего в комментарии нет: подтверждения конкретных инцидентов, причин смешивания диалогов, числа затронутых аккаунтов и перечня защитных механизмов, которые уже работают. Ответ остаётся общим.

Насколько это касается обычных пользователей публичного Muse

Ключевая оговорка: Meta утверждает, что сотрудники тестируют версии Muse, отличные от публичных. Значит, поведение из отчёта может не совпадать с тем, что видит человек в релизной сборке, и переносить инциденты на публичную версию без подтверждения некорректно.

Обратная сторона той же оговорки: компания не рассказала, чем именно сборки различаются. Фраза «у сотрудников другие версии» объясняет источник обратной связи, но не отвечает на вопрос, изолирован ли контекст в публичной версии так же, строже или слабее. Пока различия не описаны, гарантировать «вас это не касается» нельзя.

Muse при этом продолжает расширяться: после iPhone вышла версия для iPad с новыми коннекторами, то есть число точек интеграции с личными данными растёт. Каждый новый коннектор добавляет канал, который должен быть привязан к конкретному аккаунту.

Открытые вопросы по публичной версии: сколько аккаунтов затронуто, в чём причина смешивания (привязка контекста, кэш, общий буфер, логика коннекторов), исправлено ли поведение и как пользователю посмотреть свою историю диалогов на чужие фрагменты. Ответов на них в отчёте нет.

Почему AI-агент может смешивать чаты и видеть чужие данные

Meta причину не раскрыла. Дальше описан класс отказов, который встречается у агентов с широким доступом к личным данным. Это не диагноз инцидента Muse, а перечень механизмов, которые стоит проверять у любого подобного продукта.

Изоляция контекста и сессий

Контекст диалога это набор сообщений, вложений и результатов вызовов инструментов, который модель видит в момент генерации ответа. Он должен быть жёстко привязан к паре «пользователь плюс сессия». Типовые ошибки: переиспользование объекта сессии между запросами, кэш без ключа пользователя, гонка при параллельных обращениях, неверный идентификатор аккаунта после повторной авторизации. В любом из этих случаев модель получает фрагменты чужого диалога и считает их частью текущего.

Бытовая аналогия: общий буфер на несколько аккаунтов, из которого каждый ответ берёт то, что осталось от предыдущего клиента. Признак такой ошибки виден снаружи: ответ ссылается на детали, которых пользователь не сообщал, или в историю попадает реплика с незнакомым содержимым. В отчёте описано именно такое поведение, но подтверждённой причины нет.

Отдельная зона риска это долговременная память агента. В разборе файловой системы Muse показано, что память хранится в простых текстовых файлах, а агент заводит страницу на каждого человека из окружения владельца. Чем больше накопленный профиль, тем ценнее ошибка привязки: подставится не пустая сессия, а готовое досье.

Доступ к другим приложениям и проактивные напоминания

Пример с Signal показывает второй слой риска. Напоминание ответить на сообщение требует прочитать переписку, то есть доступа к данным мессенджера. Сотрудница утверждает, что разрешение не выдавала. Варианты, как доступ мог появиться: системные разрешения ОС (уведомления, доступ к данным приложений), привязка через аккаунт-посредник, синхронизация между устройствами или настройки по умолчанию, которые пользователь не воспринимает как согласие. Как именно получен доступ в этом случае, не раскрыто.

Проактивные функции (напоминания, сводки, утренние дайджесты) читают больше данных, чем реактивный чат. Чтобы напомнить о сообщении, агенту нужен постоянный доступ к переписке и уведомлениям. Полезность напоминаний оплачивается шириной доступа, и это стоит учитывать при включении.

Риски подключения AI-агента к банкам, мессенджерам и личным приложениям

Итоговый риск складывается из трёх множителей: широты выданных разрешений, срока хранения контекста и наличия проактивных функций. Разложим по категориям данных.

Категория данных Что даёт агенту Чем грозит при сбое изоляции Что проверить
Банковские счета и балансы Сводки по тратам, напоминания о платежах, автоплатежи Раскрытие финансового положения, остатков, адреса и привычек трат Подключён ли банк, какие счета видны, можно ли ограничиться одним
Мессенджеры Напоминания ответить, краткие сводки переписки Раскрытие личных и рабочих коммуникаций, контактов, договорённостей Есть ли доступ к уведомлениям и данным сторонних приложений
Заказы и доставка Отслеживание покупок, повторные заказы Утечка адресов и истории покупок, профилирование Какие адреса и карты сохранены в профиле агента
Почта и календарь Планирование встреч, сортировка писем Утечка расписания, контактов и вложений Доступ ко всему ящику или к отдельным папкам
Память и заметки агента Персонализация ответов Накопление данных о третьих лицах, которые агента не устанавливали Как посмотреть и удалить сохранённое

Пример из отчёта укладывается в первую строку таблицы: балансы Capital One и Charles Schwab попали в посторонний чат о погоде. Финансовые данные оказались в контексте, который к ним не относился. Более широкий разбор похожих сценариев с обходом ограничений и доступа к личным данным есть в материале о практических рисках Muse.

Важная оговорка: отчёт описывает поведение на тестовых сборках сотрудников. Утверждать, что публичный Muse уже показал такие утечки обычным пользователям, оснований нет.

Как Meta объясняет инциденты и какие вопросы остаются открытыми

Официальная позиция сводится к двум тезисам: сотрудники тестируют непубличные версии, обратная связь нужна для усиления защиты. Конкретные случаи компания не подтвердила, причины и масштаб не назвала.

Что осталось без ответа:

  • какие именно версии Muse тестировали сотрудники и чем они отличаются от публичной сборки;
  • какие разрешения запрашивает публичная версия при подключении банка или мессенджера;
  • как устроена изоляция контекста и есть ли отдельный идентификатор на каждый аккаунт;
  • сколько пользователей затронуто и были ли случаи у внешних пользователей;
  • какие защитные механизмы уже работают и как пользователю убедиться в их наличии;
  • можно ли посмотреть собственные логи диалогов и запросить удаление сохранённых данных.

Приписывать Meta признаний, которых не было, не стоит. Пока причины не раскрыты, любые версии о том, что именно сломалось, остаются гипотезами.

Что делать пользователю: практические меры предосторожности

Меры ниже снижают поверхность риска, но не заменяют ответственность провайдера за изоляцию данных на своей стороне.

  1. Проверить выданные разрешения. Нужно, чтобы понять, к чему агент реально имеет доступ. Результат: каждое оставленное разрешение объясняется конкретной задачей, остальное отозвано.
  2. Не подключать банк и мессенджеры без необходимости. Если подключение нужно, используйте отдельный счёт с ограниченным остатком и не давайте агенту доступ ко всей переписке.
  3. Отключить проактивные напоминания и сводки, если вы ими не пользуетесь. Именно эти функции требуют постоянного чтения уведомлений и переписки.
  4. Просматривать историю диалогов и память агента. Ищите чужие фрагменты, незнакомые заказы, адреса и имена. Критерий: вы можете объяснить происхождение каждой сохранённой записи.
  5. Зафиксировать инцидент, если он есть. Скриншот диалога, дата, текст. Дальше смена паролей, отзыв доступа и обращение в поддержку сервиса.

Граница самостоятельной проверки: пользователь видит разрешения, историю и уведомления, но не видит, как сервис разделяет контекст между аккаунтами на сервере. Это зона ответственности провайдера.

Как проверить разрешения агента

Смотрите в трёх местах. Первое: настройки самого приложения, раздел с подключёнными сервисами и коннекторами. Второе: системные настройки приватности ОС, где перечислены доступы к уведомлениям, контактам, файлам, микрофону и другим данным. Третье: разрешения конкретных приложений (мессенджеров, банковских клиентов), которые вы могли выдать агенту или его интеграции.

Универсальной последовательности пунктов меню нет: названия разделов зависят от платформы и версии приложения. Ориентир: ищите экран, где перечислены подключённые сервисы и области доступа к каждому. Проверку стоит повторять после крупных обновлений, когда в приложении появляются новые коннекторы.

Когда без специалиста не обойтись

Ситуации, где самостоятельных действий мало: в диалоге появились фрагменты чужой переписки или чужие балансы; на счетах видны незнакомые списания; есть подозрение, что аккаунт агента или почты получил посторонний доступ. Порядок: поддержка сервиса с описанием инцидента, банк (блокировка карты, проверка операций), при утечке рабочих данных служба безопасности компании или специалист по информационной безопасности.

Сроки и результат поддержки заранее не известны, обещать их никто не может. Фиксация фактов и скриншоты повышают шансы на содержательный разбор.

Как оценивать надёжность AI-агентов с доступом к личным данным

Критерии, по которым можно сравнивать продукты ещё до инцидентов:

  • Где обрабатываются данные. Облако или локальный запуск, хранится ли контекст на устройстве.
  • Широта разрешений и их гранулярность. Можно ли подключить отдельную папку вместо всего ящика, один счёт вместо всех.
  • Проактивные функции. Есть ли они и можно ли отключить, не ломая основную работу.
  • Публичное описание изоляции контекста и памяти. Есть ли документация о том, как разделяются данные аккаунтов.
  • Управление своими данными. Можно ли посмотреть и удалить сохранённое.
  • Реакция на инциденты. Насколько конкретно компания отвечает на сообщения о сбоях.

История Muse даёт наглядную иллюстрацию: продукт вырос до более 10 млн загрузок за короткий срок, а официальный ответ на сообщения о смешивании чатов остался общим. Быстрый рост и сложные интеграции повышают вероятность ошибок, и архитектура безопасности должна успевать за релизами. Что известно про архитектуру, тарифы и уровень доверия к Meta, разобрано в отдельном материале о персональном агенте Muse.

Локальные LLM часто предлагают как способ не отдавать данные третьим лицам. Для чувствительных задач это рабочий вариант: модель работает на вашем железе, контекст остаётся в вашей сети. Ограничение в другом: как только агенту нужен доступ к банку, мессенджеру или маркетплейсу, запросы всё равно уходят во внешние API, и проблема изоляции возвращается на уровне интеграций. Плюс локальный запуск требует своей настройки безопасности: сетевые правила, разделение процессов, бэкапы и контроль доступа к файлам.

Практический вывод для пользователя: определяйте, какие данные агент действительно должен видеть для вашей задачи, и ограничивайте остальное. Гарантий, что это исключает риск полностью, нет, но объём возможной утечки становится заметно меньше.

Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ.

Подписаться на канал