Команда исследователей из AIRI и Сколтеха представила на ICML 2026 метод SINN - спектрально-информированную нейронную сеть для решения многомерных дифференциальных уравнений в частных производных. Результаты численных экспериментов на уравнении Шрёдингера и Пуассона показывают улучшение точности до 99.6% по сравнению с классическими спектральными методами и современными PINN-подходами, включая PirateNets и Natural Deep Ritz Methods.
SINN решает фундаментальную проблему: спектральные методы дают высокую точность в малых размерностях, но экспоненциально дороги с ростом числа измерений. Нейросетевые методы масштабируются на высокие размерности, но страдают от посредственной точности. SINN забирает сильные стороны обоих подходов, встраивая априорные знания гармонического анализа прямо в архитектуру сети.
Метод уже привлёк внимание сообщества научных вычислений и ML-инженеров, работающих с физически-информированными нейросетями. В этом разборе - архитектура, цифры, ограничения и практические выводы.
Что такое SINN и зачем он нужен?
SINN - это нейросеть, которая получает на вход не только координаты точки, но и спектральную информацию о решении. Идея в том, что многие физические PDE имеют решения с выраженной частотной структурой: осцилляции, гармоники, многомасштабные особенности. Обычная полносвязная сеть может потратить значительную часть обучающих итераций на «угадывание» этих частот. SINN получает их как явную подсказку.
Авторы метода - группа учёных из AIRI и Сколтеха - модифицировали архитектуру так, что сеть оперирует в пространстве, обогащённом спектральными признаками. Это не гибридная схема «сначала спектральный метод, потом нейросеть», а единая дифференцируемая архитектура, которая обучается градиентным спуском.
Ключевая цифра: на уравнении Шрёдингера в высокой размерности SINN даёт относительную L2-ошибку на 99.6% ниже, чем классические спектральные методы. Для уравнения Пуассона метод обходит PirateNets и Natural Deep Ritz Methods, которые до этого считались одними из лучших нейросетевых решателей PDE.
Проблема размерности: почему классические методы не справляются
Уравнения в частных производных - рабочий инструмент физики, химии, финансовой математики и инженерии. Проблема в том, что с ростом размерности число точек сетки для классических методов растёт экспоненциально. Уравнение Шрёдингера для системы из десяти частиц требует сетки в 30-мерном пространстве. Спектральные методы на такой сетке требуют вычислительных ресурсов, которые недоступны даже на современных кластерах.
Нейросетевые подходы, такие как Physics-Informed Neural Networks, обходят проклятие размерности за счёт того, что не требуют сетки. Сеть обучается на случайных точках из области определения, и функция потерь включает невязку PDE. Проблема в точности: PINN часто «застревают» в локальных минимумах, особенно для решений с высокочастотными осцилляциями. Методология A.L.F.R.E.D., о которой мы рассказывали ранее, решает похожую проблему в другом контексте - через дистилляцию шаблонов и адаптивный роутинг, что позволяет малым моделям достигать производительности больших. SINN идёт другим путём: вместо постобработки он улучшает саму архитектуру решателя.
Разрыв между точностью спектральных методов и масштабируемостью нейросетей оставался открытой проблемой последние пять лет. SINN закрывает этот разрыв.
Архитектура SINN: как встроить гармонический анализ в нейросеть
Ключевая инновация SINN - это слой спектрального обогащения. На вход сети подаётся вектор координат x, который преобразуется в расширенный вектор признаков. Этот вектор включает не только сами координаты, но и значения базисных функций, подобранных под конкретный класс PDE.
Для уравнения Шрёдингера, например, решение часто раскладывается по собственным функциям оператора Гамильтона. SINN получает на вход значения нескольких первых собственных функций в точке x. Сеть учится комбинировать эти спектральные признаки с нелинейными преобразованиями от полносвязных слоёв.
Формально архитектура выглядит так: входной слой принимает d координат и k спектральных признаков, где k - число учтённых гармоник. Далее идут несколько полносвязных слоёв с активацией tanh или sin. Выходной слой предсказывает значение решения u(x) или его производные. Функция потерь стандартна для PINN: сумма квадратов невязки PDE на коллокационных точках плюс граничные и начальные условия.
Отличие от обычной PINN - в том, что спектральные признаки не обучаются. Они фиксированы и вычисляются аналитически из постановки задачи. Это даёт два эффекта: сеть быстрее сходится и не тратит ёмкость на изучение частотной структуры, которая уже известна из теории.
Роль априорных знаний в повышении точности
Уравнение Шрёдингера с гармоническим потенциалом имеет решение, которое осциллирует с частотами, кратными собственной частоте потенциала. Обычная PINN пытается аппроксимировать эти осцилляции через композицию нелинейных функций. Это приводит к двум проблемам: медленной сходимости и риску попасть в локальный минимум, где сеть «сглаживает» осцилляции.
SINN получает частоты осцилляций как явный входной признак. Сети остаётся выучить только амплитуды и фазы. Это резко упрощает ландшафт функции потерь. В экспериментах SINN сходится за 30-50% эпох от того, что требуется PirateNets для достижения сопоставимой точности.
Для уравнения Пуассона априорные знания - это фундаментальное решение оператора Лапласа. SINN использует значения функции Грина как дополнительные признаки, что помогает сети точнее восстанавливать решение в областях с большими градиентами.
Результаты: SINN против PirateNets и Natural Deep Ritz Methods
Авторы провели серию численных экспериментов на двух классических PDE: уравнение Шрёдингера с гармоническим потенциалом и уравнение Пуассона в единичном кубе. Для каждого уравнения варьировалась размерность от 2 до 30. Метрика - относительная L2-ошибка между предсказанным и аналитическим решением на тестовой выборке из 10 000 точек.
Сравнивались четыре метода: классический спектральный метод на сетке Чебышёва, PINN с архитектурой «широкий ResNet», PirateNets и Natural Deep Ritz Methods. SINN тестировался с разным числом спектральных признаков: от 5 до 50.
Результаты для размерности 20: спектральный метод не запускался из-за нехватки памяти, PirateNets дали ошибку 3.8e-2, Natural Deep Ritz - 4.1e-2, SINN с 20 гармониками - 1.5e-4. Разрыв в два порядка.
Уравнение Шрёдингера: точность на высоких размерностях
Для уравнения Шрёдингера SINN сохраняет ошибку ниже 1e-3 вплоть до размерности 30. Спектральный метод перестаёт работать на размерности 8 из-за экспоненциального роста сетки. PirateNets на размерности 30 дают ошибку 5.2e-2 - в 50 раз хуже SINN.
Улучшение точности на 99.6% относится к сравнению SINN со спектральным методом на размерности 10 - последней, где спектральный метод ещё работает. На этой размерности SINN даёт ошибку 2.1e-5 против 5.8e-3 у спектрального метода. С ростом размерности разрыв только увеличивается.
Для ML-инженеров, работающих с квантово-механическими расчётами, это означает возможность решать задачи для 10-15 частиц на одном GPU вместо кластера. Конкретные цифры и сравнения архитектур мы регулярно разбираем в материалах о новых моделях - например, в анализе Gemma-4-31B-AntiHal, где метод representation steering вдвое снижает галлюцинации без потери скорости.
Уравнение Пуассона: сравнение с современными PINN
На уравнении Пуассона SINN сравнивался с PirateNets и Natural Deep Ritz Methods - это два лучших нейросетевых метода для эллиптических PDE по состоянию на 2025 год. При размерности 15 SINN даёт ошибку 8.3e-5, PirateNets - 2.1e-3, Natural Deep Ritz - 2.8e-3.
Интересный результат: SINN с 10 спектральными признаками требует в 3 раза меньше коллокационных точек для достижения той же точности, что PirateNets. Это прямое следствие встроенных априорных знаний: сеть не тратит данные на изучение структуры оператора Лапласа, она уже «знает» его фундаментальные свойства.
Для практиков это означает снижение затрат на генерацию обучающих данных. В задачах, где каждое вычисление правой части PDE стоит дорого, такое преимущество критично.
Ограничения и когда SINN не подойдет
Метод требует, чтобы для PDE существовала явная спектральная структура, которую можно вычислить аналитически или численно до обучения сети. Для уравнения Шрёдингера с известным потенциалом это работает. Для уравнения Навье-Стокса с турбулентностью - нет: спектр решения непрерывен и заранее неизвестен.
Второе ограничение: сравнение проводилось только с PirateNets, Natural Deep Ritz Methods и спектральными методами. Результаты против других подходов - например, DeepONet или Fourier Neural Operator - могут отличаться. Авторы честно указывают это в статье.
Третье: исследование представлено на ICML 2026, код на момент публикации не выложен. Это означает, что независимая валидация результатов ещё предстоит. Метод находится на стадии research preview, и для production-использования потребуется дополнительное тестирование на специфических классах PDE.
Четвёртое: SINN не решает проблему выбора числа спектральных признаков. Слишком мало - теряется точность. Слишком много - растёт размерность входа и время обучения. Оптимальное число гармоник подбирается эмпирически для каждого класса задач. Это напоминает ситуацию с динамическим управлением слоями в LLM, где метод PoLar динамически выбирает слои под каждый запрос и даёт 20-40% экономии вычислений без потери точности.
Как начать использовать SINN: код и воспроизводимость
На момент написания статьи код SINN не опубликован в открытом доступе. Авторы обещают выложить репозиторий после презентации на ICML 2026. Следить за обновлениями можно на страницах лабораторий AIRI и Сколтеха на GitHub.
Если вы хотите применить спектральное обогащение в своих PINN-моделях уже сейчас, общая схема такая:
- Определите оператор PDE и найдите его собственные функции или фундаментальное решение аналитически. Для многих линейных операторов это известно из учебников по математической физике.
- Добавьте в датасет коллокационных точек значения выбранных собственных функций в каждой точке.
- Модифицируйте входной слой сети, чтобы он принимал расширенный вектор признаков.
- Зафиксируйте веса, соответствующие спектральным признакам, или оставьте их обучаемыми с малым learning rate.
Для уравнения Шрёдингера с гармоническим потенциалом собственные функции - это произведения полиномов Эрмита на гауссиану. Их вычисление добавляет O(k) операций на точку, где k - число гармоник. При k=20-50 это пренебрежимо мало по сравнению с прямым проходом через полносвязные слои.
Практический порог входа умеренный: нужен опыт работы с PINN и понимание спектральной теории для конкретного класса PDE. Для ML-инженера без физического бэкграунда кривая обучения может быть крутой. Но для команд, которые уже используют нейросетевые решатели PDE, добавление спектральных признаков - это изменение в несколько десятков строк кода с потенциалом улучшения точности на порядки.