Коротко: в чём проблема с «доверенными технологиями ИИ»
Формально «доверенные технологии искусственного интеллекта» в российском регулировании существуют с февраля 2024 года. Применить этот термин к конкретной системе по-прежнему нельзя: нет ни перечня стандартов, которым технология должна соответствовать, ни методики проверки, ни органа, который фиксирует соответствие.
Три документа говорят о трёх разных объектах. Национальная стратегия развития ИИ в редакции Указа от 15.02.2024 № 124 вводит «доверенные технологии ИИ» через безопасность, объективность, недискриминацию и этичность. Приказ ФСТЭК России от 11.04.2025 № 117 ссылается на этот термин в пунктах 49 и 61, то есть делает его предметом оценки. ГОСТ Р 59276-2020 описывает «доверенную систему ИИ» и «доверие к системе ИИ»: там речь о предсказуемости работы и уверенности потребителя, об этических принципах речи нет.
Пробел простой: требование в приказе есть, измеримого содержания у термина нет. Проект поправок ФСТЭК с ID 01/02/08-26/00170500 намекает, что регулятор это увидел: предлагается убрать «доверенных» из пункта 49 и переписать пункт 61 через защиту информации при применении ИИ-агентов и моделей. Ниже разбор, откуда взялся разрыв, почему ГОСТ его не закрывает и что делать организациям, которым предстоит отчитываться по приказу 117. Разбор терминов и реквизитов опирается на разбор нормативной нестыковки, точные формулировки пунктов приказа нужно сверять с первоисточником.
Практическое решение: Плати по миру
Что говорит Национальная стратегия развития ИИ: определение есть, требований нет
Стратегия задаёт рамку, технических условий в ней нет. Определение «доверенных технологий ИИ» строится на двух элементах: соответствие стандартам безопасности и следование принципам объективности, недискриминации и этичности. Оба сформулированы как цели. Перечня стандартов, на которые следует опираться, документ не содержит.
Для стратегического документа это нормально. Национальная стратегия развития ИИ определяет направления государственной политики на годы, её задача, задать понятия и приоритеты. Операциональные требования живут в других актах: приказах регуляторов, правилах оценки соответствия, стандартах. Стратегия здесь ни при чём. Проблема в другом: документ, который ссылается на её термин, не получил недостающего звена.
Почему принципы объективности, недискриминации и этичности не заменяют стандарты безопасности
Принцип отвечает на вопрос «к чему стремимся», стандарт на вопрос «как проверяем». Возьмём недискриминацию. Чтобы утверждать, что модель её не нарушает, нужны минимум четыре вещи: набор тестовых сценариев, метрика, пороговое значение и процедура, по которой результат признаётся удовлетворительным. Плюс решение, что делать с найденным перекосом: переобучение, ограничение области применения или отказ от модели в конкретном процессе.
Ни одного из этих элементов Стратегия не задаёт и задавать не может. Отсюда практический тупик: разработчик готов документировать этику, но не знает, какой набор тестов и какой порог устроят проверяющего. Гарантировать, что «достаточно соблюдать принципы», без нормативного акта никто не вправе.
Приказ ФСТЭК № 117: где именно появляются «доверенные технологии ИИ»
Приказ ФСТЭК России от 11.04.2025 № 117 упоминает «доверенные технологии ИИ» в пунктах 49 и 61. Точные формулировки нужно читать в первоисточнике, здесь важен сам механизм: документ, требования которого проверяются, отсылает к термину без утверждённого операционального содержания. Эта ситуация описана в разборе о доверенных технологиях и доверии к системам ИИ.
В российской практике конструкция привычная: регулятор описывает требование через категорию из документа верхнего уровня. Она работает, когда категория раскрыта в подзаконном акте или в стандарте с методикой оценки. Здесь раскрытия нет, и подставить вместо него первый попавшийся ГОСТ нельзя, о причинах ниже.
Почему отсылка к декларативной норме создаёт правовую неопределённость
Исполнитель и проверяющий оказываются в одной лодке. Один обосновывает, что его система соответствует требованиям, второй оценивает обоснованность. Опора у обоих одна: текст приказа плюс общее определение из Стратегии. Дальше начинается интерпретация, и расхождение трактовок превращается в вопрос не техники, а переговоров.
Для внутренней документации это означает конкретную вещь: утверждение «применяемая технология относится к доверенным» придётся подкреплять явно названными допущениями. Чем честнее они зафиксированы, тем проще пережить смену трактовки. Приписывать ФСТЭК планы или неопубликованные разъяснения смысла нет, в открытых источниках их нет.
ГОСТ Р 59276-2020: «доверенная система ИИ» - это про другое
ГОСТ Р 59276-2020 появился до того, как термин «доверенные технологии ИИ» вошёл в Стратегию. По этой причине он не мог создаваться под норму, которой ещё не было. Семантика в нём другая: «доверенная система ИИ» и «доверие к системе ИИ» описывают функциональность системы и уверенность потребителя в её поведении.
Доверие к системе отвечает на вопрос, насколько предсказуемо она работает и можно ли положиться на результат. Доверенные технологии в смысле Стратегии отвечают на вопрос о соответствии стандартам безопасности и этическим принципам. Система может быть предсказуемой и при этом дискриминирующей, и наоборот.
Функциональность и уверенность потребителя против безопасности и этичности: две разные оси
| Параметр | ГОСТ Р 59276-2020 | Национальная стратегия (Указ № 124) |
|---|---|---|
| Объект | доверенная система ИИ, доверие к системе ИИ | доверенные технологии ИИ |
| Что оценивается | функциональность системы и уверенность потребителя | соответствие стандартам безопасности и принципам объективности, недискриминации, этичности |
| Роль документа | национальный стандарт, методическая рамка | стратегический документ, понятия и направления |
Подставлять ГОСТ в обоснование по приказу 117 означает отвечать на другой вопрос. Формально документ подходит по названию, по объекту оценки нет. Для методологически чистого обоснования придётся отдельно пояснить, почему стандарт 2020 года применён к норме, появившейся позже, и что именно из него взято. Терминологическая путаница в этой области не редкость: в НПА и ГОСТах действует несколько разных определений ИИ, разбор пяти определений ИИ помогает не смешивать документы разного уровня.
Проект поправок ФСТЭК: регулятор меняет подход
Проект поправок с ID 01/02/08-26/00170500 показывает, что проблему видят и внутри ведомства. Предлагается убрать слово «доверенных» из пункта 49 и переписать пункт 61 через защиту информации при применении ИИ-агентов и моделей машинного обучения. Направление сдвига: от оценки свойств технологии к защите информации в системах, где такая технология применяется.
От «доверенных технологий» к защите информации при применении ИИ-агентов и моделей
С точки зрения проверяемости сдвиг логичен. Защиту информации ФСТЭК проверяет много лет: есть модель угроз, требования к средствам защиты, процедуры оценки. «Доверенность» технологии проверить нечем, методики нет. Формулировка про ИИ-агентов и модели машинного обучения возвращает документ в прикладную плоскость, где требования формулируются измеримо.
Осторожность обязательна: речь о проекте. Финальный текст может отличаться, сроки принятия не объявлены. Строить на проекте обязательства рано, учитывать направление стоит. Сам проект и его контекст разобраны в исходной публикации.
Почему без нормативного акта термин остаётся декларацией
Чтобы термин стал рабочим, нужны три элемента, и ни одного из них пока нет.
- Нормативный акт с конкретными стандартами безопасности ИИ. Не общая отсылка к «стандартам безопасности», а перечень применимых документов: какие ГОСТ, какие ПНСТ, для каких классов систем и сценариев.
- Методика оценки соответствия. Метрики, тестовые наборы, пороговые значения, правила работы с генеративными моделями, где один и тот же вход даёт разные выходы и повторяемость результата сама по себе не гарантируется.
- Механизм подтверждения. Орган или процедура, которая фиксирует результат: декларация, сертификация, экспертиза. Без этого «доверенная технология» остаётся самооценкой.
Отдельная сложность касается безопасности моделей машинного обучения. Часть рисков здесь связана не с периметром сети, а с данными обучения и поведением модели, поэтому привычный набор организационных и технических мер приходится дополнять. Какие именно стандарты менеджмента и жизненного цикла ИИ действуют в России с 2025 года, разобрано в обзоре пяти национальных стандартов по ИИ.
Что это значит на практике для организаций
Ждать финальной редакции бессмысленно: часть работы полезна при любом исходе, а потом её не придётся переделывать с нуля.
- Инвентаризация. Зафиксировать, какие ИИ-компоненты и ИИ-агенты используются, включая встроенные в сторонние продукты и обращения к внешним API.
- Модель угроз и рисков по каждой системе. Что конкретно может пойти не так: утечка данных через промпт, недетерминированное поведение, доступ агента к критичным операциям.
- Документированное обоснование. Указать, на какие документы опираетесь (Стратегия, приказ 117, ГОСТ Р 59276-2020) и что именно из них применяете. Явная ссылка с пояснением лучше молчаливой подмены понятий.
- Мониторинг. Отслеживать проект 01/02/08-26/00170500 и финальную редакцию приказа 117, а также появление акта со стандартами безопасности ИИ.
Это не готовый комплаенс-чеклист, а способ снизить неопределённость. Если ИИ-агенты получают доступ к операциям, полезно заранее описать, кто утверждает их действия и что происходит при ошибке: похожая логика с разделением ролей предложена в методологии Agent-Ops 0.4.0, где агент предлагает, человек утверждает, а исполняет детерминированная программа.
Как читать нормативные тексты про ИИ и не путать уровни регулирования
Рамка из трёх уровней закрывает большинство случаев. Стратегический документ задаёт понятия и направления. Ведомственный приказ задаёт проверяемые требования. Технический стандарт задаёт терминологию и методическую рамку. Путаница между ними и породила историю с «доверенными технологиями ИИ»: термин из первого уровня попал во второй без раскрытия содержания.
Алгоритм простой: определить тип документа, затем объект регулирования, затем наличие механизма подтверждения. Если механизма нет, документ читается как ориентир, а не как проверяемое требование.
Вывод: термин есть, содержания пока нет
Стратегия даёт определение без требований. Приказ 117 ссылается на него в пунктах 49 и 61. ГОСТ Р 59276-2020 описывает другое понятие, «доверенную систему ИИ», с акцентом на функциональность и доверие потребителя. Проект поправок ФСТЭК предлагает убрать «доверенных» из пункта 49 и переписать пункт 61 через защиту информации при применении ИИ-агентов и моделей машинного обучения.
Практический вывод: следить за финальной редакцией приказа 117 и появлением нормативного акта со стандартами безопасности ИИ, а внутреннюю документацию строить на явно обозначенных допущениях. Понятийная ясность появится вместе с методикой оценки соответствия. До тех пор термин остаётся ориентиром, который каждый читает по-своему, и это стоит учитывать при любом обосновании перед проверкой.