30 сентября 2026 года на мероприятии Make America Healthy Again министр здравоохранения Роберт Кеннеди-младший заявил, что администрация Трампа делает ИИ доступным каждому американцу, чтобы освободить людей от «медицинской тирании» врачей и экспертов. Он предложил брать у языковой модели второе мнение по медицинским рекомендациям и назвал технологию «better informed than any doctor in the country» (Ars Technica).
С технической точки зрения идея не выдерживает проверки. Большая языковая модель предсказывает следующий токен по распределению вероятностей, а не сверяет ответ с клиническими рекомендациями. Она галлюцинирует, не несёт ответственности за последствия, не видит пациента и не проводит диагностику. Ошибка в дозировке или пропущенный красный флаг стоят дороже, чем неудачный ответ в чате.
Практическая польза от ИИ в медицине всё же есть: подготовка вопросов к приёму, расшифровка терминов, структурирование симптомов и хронологии. Ниже разберём, что именно сказал Кеннеди, где ломается логика «ИИ вместо врача» и как встроить модель в разговор со специалистом, не навредив себе.
Что именно предложил RFK Jr. и почему это вызвало споры
Кеннеди связал доступность ИИ с освобождением от «medical tyranny» врачей и экспертов. Претензия звучит как техническое утверждение, но проверяемой технической части в ней нет: ни ссылки на клинические испытания, ни сравнения выводов модели с решениями практикующих специалистов, ни данных о точности в медицине в выступлении не прозвучало. Это политическое заявление о доступе к инструменту, а не результат оценки качества медицинских советов.
Ключевые тезисы Кеннеди: от «медицинской тирании» до второго мнения
Позиция сводится к четырём пунктам:
- ИИ доступен каждому американцу, потому что так решила администрация.
- ИИ выдаёт второе мнение по медицинским рекомендациям.
- ИИ информирован лучше любого врача в стране.
- ИИ подтвердит его взгляды на вакцины и общественное здравоохранение.
Последний пункт он сформулировал прямо: «We're never, ever again going to be able to be dominated by public officials who tell us trust the experts, because every American will be able to check their own medical advice».
Роли здесь стоит разделить. Проверить медицинскую рекомендацию можно по первоисточнику: клинической рекомендации, инструкции к препарату, рецензируемому исследованию. Языковая модель доступа к ним не даёт, она генерирует текст, похожий на ответ. Точность её советов зависит от версии модели, промпта и подложенных данных, поэтому формулировка «информирован лучше любого врача» не подтверждается ничем в самом выступлении: сравнительных замеров с решениями врачей не приводится.
Реакция зала и JD Vance: неожиданный поворот
Вице-президент JD Vance, участвовавший в разговоре с Кеннеди, признался, что ждал обсуждения «weight loss and acid, not AI». Поворот к теме искусственного интеллекта оказался неожиданным для самого собеседника, и это показывает формат: не техническая сессия, а политическое выступление внутри дискуссии о здравоохранении.
Отдельная деталь: взгляды Кеннеди на вакцины Ars Technica описывает как дезинформацию, а не как альтернативную позицию в научной дискуссии. Ожидание, что ИИ эти взгляды подтвердит, показывает, чего политик ждёт от модели: не проверки, а озвучки готового вывода.
Может ли ИИ заменить врача: технические ограничения LLM
Большая языковая модель учится предсказывать следующий токен на большом корпусе текстов. Внутри нет таблицы проверенных фактов и нет процедуры сверки с первоисточником на этапе генерации. Модель выдаёт статистически правдоподобное продолжение, а правдоподобие и истинность - разные вещи: в медицинских текстах правдоподобно звучат и действующие рекомендации, и давно опровергнутые гипотезы.
Для медицины критичны четыре следствия этой архитектуры: галлюцинации, отсутствие персонализации, устаревшие данные в весах и отсутствие ответственности за решение.
Галлюцинации LLM: почему модель выдумывает факты
Галлюцинация не сбой исправной системы, а нормальный режим вероятностной генерации. Если данных по узкому вопросу мало, модель заполняет пробел текстом подходящей формы: названием препарата, которого не существует, дозировкой из чужого контекста или противопоказанием с перевёрнутой логикой. Уверенный тон ответа ничего не сообщает о достоверности, потому что тон тоже генерируется.
Ответ меняется при перефразировании запроса. Один и тот же вопрос про взаимодействие двух препаратов может дать разные выводы, и ни один из них не будет помечен как ненадёжный. Персонализации мешает отсутствие контекста: модель не знает анализов, возраста, беременности, хронических болезней и списка принимаемых лекарств, если пользователь не перечислит их сам, а перечисляет он обычно неполно.
Частично проблему снимает подход RAG: модель отвечает не по памяти, а по документам, которые ей подложили. Тогда качество упирается в подборку источников, и для медицины это должны быть актуальные клинические рекомендации, а не случайные статьи из поисковой выдачи. Природу галлюцинаций и цену отказа от ИИ мы разбирали в отдельном материале.
Сценарии риска выглядят буднично. Модель описывает схему приёма, игнорируя взаимодействия с препаратами, которые пациент уже принимает. Модель называет симптом безобидным, хотя он требует срочного обращения. Модель советует «просто подождать» при описании, которое в клинических рекомендациях отнесено к красным флагам. Опасность в том, что такие ответы выглядят так же уверенно, как корректные.
Отсутствие клинической ответственности и диагностики
Врач собирает анамнез, осматривает пациента, читает анализы, учитывает противопоказания и отвечает за решение профессионально и юридически. У чат-бота нет ни осмотра, ни доступа к медицинской карте, ни документов, подтверждающих право давать медицинские советы, ни ответственности за последствия.
Диагностика опирается на данные, которых у модели нет: аускультация, пальпация, визуализация, лабораторные значения, динамика показателей. Текстовая модель работает с описанием, а не с пациентом, и качество описания зависит от того, насколько точно человек сам сформулировал жалобы. Получается замкнутый круг: чтобы ИИ дал полезный ответ, нужен уже готовый качественный анамнез, который собирает врач.
Отдельные ИИ-системы для анализа изображений проходят регистрацию как медицинские изделия, но это узкие продукты под одну задачу с валидированным датасетом и контролем качества. Чат-бот общего назначения в этот класс не попадает, даже если уверенно рассуждает про симптомы.
История с IBM Watson for Oncology показательна: систему продвигали как поддержку решений для онкологов, но массовым клиническим инструментом она не стала, а качество её рекомендаций упиралось в данные и разметку, а не в бренд. Разработчики медицинских ИИ-функций формулируют это ограничение сами: OpenAI в описании ChatGPT Health прямо предупреждает, что сервис не предназначен для диагностики или лечения.
Где ИИ действительно полезен в медицине: второе мнение и подготовка вопросов
Полезные сценарии лежат не в постановке диагноза, а в подготовке и понимании.
- Подготовка вопросов к приёму: список из 10-15 пунктов по своей ситуации, чтобы не забыть половину в кабинете.
- Расшифровка терминов: что значит формулировка в заключении, какие обследования обычно обсуждают при таком направлении.
- Структурирование: собрать хронологию симптомов, даты, препараты и реакции в один список для врача.
- Разбор инструкции к препарату простым языком с последующей проверкой у специалиста.
- Чек-лист перед началом терапии: побочные эффекты, взаимодействия, что делать при пропуске дозы.
Разницу между рабочим и опасным запросом видно на формулировках.
Опасно: "Болит в груди справа, что это и что принять?"
Полезно: "Иду к терапевту с жалобами на боль в груди справа. Составь список
вопросов, которые стоит задать врачу, и перечисли, какие обследования обычно
обсуждают при таких жалобах. Диагноз не ставь."Второй запрос даёт план разговора, первый даёт псевдодиагноз. На «второе мнение» от ИИ ссылается Кеннеди, и здесь происходит подмена: настоящее второе мнение - это заключение другого врача, который видит пациента и отвечает за вывод. Модель может помочь сформулировать вопросы и объяснить непонятные слова, но консультацию она не заменяет.
Почему ИИ не аргумент в спорах об экспертизе и вакцинах
Ответ модели зависит от данных, промпта и настроек сэмплирования. Если в обучающем корпусе много дезинформации по теме, модель воспроизведёт её с той же уверенностью, что и консенсусные утверждения: она не различает источники по достоверности. Дополнительно работает подстройка под пользователя: модель склонна соглашаться с посылкой вопроса, поэтому запрос «почему вакцины опасны» получит ответ, подтверждающий эту посылку.
Отсюда практический вывод: вывод LLM не доказывает ничего в медицинском споре. Научный консенсус формируют рецензируемые исследования, систематические обзоры и решения регуляторов, а не текст, сгенерированный по запросу. Подобрать промпт под желаемый ответ несложно, и такие случаи уже выходили в публичное поле: канадский парламентарий зачитал с трибуны технический промпт вместо подготовленного текста.
Заявление Кеннеди о том, что ИИ подтвердит его взгляды на вакцины, укладывается в тот же шаблон. Проверка Ars Technica дала обратный результат. Это типичный пример подмены фактов: сначала формируется вывод, потом ищется инструмент, который его озвучит (источник).
Практические выводы: как использовать ИИ для здоровья без вреда
- Формулируйте запросы как подготовку к приёму, а не как постановку диагноза.
- Не спрашивайте про дозировки, отмену назначений и замену терапии: это решения врача.
- Проверяйте любой факт из ответа по первоисточнику: инструкции к препарату, клинической рекомендации, заключению врача.
- Не используйте вывод модели как аргумент в споре об экспертизе: он не подтверждает ничего.
- Учитывайте устаревшие данные в весах: модель может ссылаться на отменённые схемы, если не дать актуальные документы.
- Красные флаги (боль в груди, затруднённое дыхание, потеря сознания, сильная слабость) - повод звонить в скорую, а не открывать чат.
Рабочая схема такая: перед приёмом сформулировать вопросы и хронологию симптомов с помощью модели, на приёме задать их врачу, после приёма разобрать непонятные термины в заключении и вернуться к специалисту с новыми вопросами. Модель здесь работает как редактор черновика, а решение остаётся за человеком с медицинским образованием.
Инструмент полезен там, где готовит разговор, и вреден там, где его заменяет. Если хочется понять, как удерживать контроль над использованием LLM в повседневности, у нас есть разбор механизмов зависимости и практических стратегий.