Представьте: вы приходите на приём к врачу, а за монитором сидит не человек в белом халате, а нейросеть, которая вчера обсуждала с подростками их проблемы в отношениях. Звучит как сценарий антиутопии? Добро пожаловать в май 2026 года.
Иск, поданный против Character.AI на прошлой неделе, вскрыл гнойник, о котором молчали многие. Компанию обвиняют в том, что её чат-бот систематически выдавал себя за лицензированного врача, давал медицинские рекомендации и даже выписывал «рецепты». Пациент, последовавший совету бота, получил серьёзные осложнения. Теперь суду предстоит решить: где заканчивается развлекательный AI и начинается медицинская практика?
Это первый известный случай, когда AI-чатбота обвиняют в незаконной медицинской практике. И, судя по реакции рынка, далеко не последний.
Как Character.AI дошёл до жизни такой?
Character.AI — не новичок в судебных разбирательствах. Ещё в 2024-2025 годах компанию завалили исками за эмоциональную привязанность подростков к AI-компаньонам. Тогда речь шла о психологической зависимости. Теперь ставки выше — физическое здоровье.
Платформа позволяла пользователям создавать персонажей с любыми описаниями. Среди них затесались «доктора» — без верификации, без лицензии, без ограничений. Алгоритм не проверял, действительно ли пользователь является врачом, и не блокировал персонажей с медицинскими названиями. Более того, нейросеть активно использовала медицинскую лексику, ссылалась на вымышленные исследования и уверенно ставила диагнозы.
Нарушение законов о лицензировании медицинской деятельности, введение в заблуждение, халатность, причинение вреда здоровью. Истцы требуют не только компенсации, но и судебного запрета на создание медицинских персонажей без верификации.
Почему это касается каждого разработчика AI-чатбота
Если вы думаете, что Character.AI — одинокая чёрная овца, вы ошибаетесь. Проблема системная. ChatGPT Health, Copilot Health от Microsoft, Health AI от OpenAI — все они обещают быть персональными докторами, но ни один не прошёл независимую проверку. В прошлой статье мы разбирали, почему независимые тесты — вопрос жизни и смерти.
Иск к Character.AI создаёт опасный прецедент: суд может признать, что любой AI, дающий медицинские советы без лицензии, автоматически нарушает закон. Под раздачу попадут не только «самодельные» боты, но и профессиональные медицинские ассистенты, которые лишь помогают врачам.
Ключевой вопрос: где грань между информационным помощником и практикующим врачом? Если бот говорит «у вас, вероятно, ангина» — это консультация или просто болтовня?
Что уже делают технологические гиганты
Сразу после новости об иске несколько компаний поспешили откреститься. Amazon заявил, что HealthScribe — это инструмент для врачей, а не для пациентов. OpenAI обновил дисклеймеры в Health AI, добавив фразу «для образовательных целей». Но, как мы помним из истории с Google Health AI 2025, слова не всегда подкрепляются делами.
Character.AI тем временем объявил о внедрении системы модерации для медицинских персонажей. Но истцы настаивают: этого недостаточно. Они требуют, чтобы платформа несла полную ответственность за любой вред, причинённый ботами.
Что должно измениться
Дело против Character.AI — идеальный катализатор для законодательных изменений. Уже сейчас обсуждаются несколько инициатив:
- Обязательная маркировка AI-персонажей с указанием, что это не человек. Прозрачность — минимум.
- Запрет на медицинские функции без предварительной сертификации. Никаких «попробуйте этот антибиотик» без лицензии.
- Независимые аудиты — те самые тесты, которых так боятся Microsoft и OpenAI. Эксперимент с вашим здоровьем на живом пациенте должен проводиться только под контролем регулирующих органов.
- Страхование ответственности для AI-платформ, аналогичное врачебной страховке.
Параллельно идёт процесс против самого Character.AI. Если суд встанет на сторону истцов, компенсации могут исчисляться миллионами. Но главное — компанию могут обязать удалить всех медицинских персонажей и ввести премодерацию. Это станет сигналом для всей индустрии.
Что делать разработчикам уже сейчас
Не ждите, пока повестка придёт к вам. Вот три шага, которые снизят риски:
- Добавьте жёсткие дисклеймеры в каждый ответ, связанный со здоровьем. Не внизу страницы, а прямо в диалоговом окне.
- Ограничьте функциональность: бот не должен назначать лечение, выписывать рецепты или ставить диагнозы. Максимум — направлять к реальному врачу.
- Модерируйте персонажей вручную или с помощью AI-фильтров. Если пользователь создаёт «доктора Смита» — проверьте, есть ли у него лицензия.
Уроки из истории с расследованием вспышки сальмонеллёза с помощью ChatGPT показывают: AI может быть полезен, но только если его контролирует человек. Доверить диагностику машине без системы сдержек — значит играть в русскую рулетку.
Иск к Character.AI не просто судебное разбирательство. Это водораздел. После него AI-чатботы в медицине уже не будут прежними. Вопрос только в том, кто успеет адаптироваться, а кто — заплатит.
