Мир компьютерного зрения сошел с ума от гигантомании: ViT-G с 1.8B параметров, DINOv3 ViT-L с 304M — все хотят быть большими. Ant Group пришла и сказала: ребята, а давайте наоборот? Знакомьтесь: LingBot-Vision — серия визионных бэкбонов, которые с 13 миллионами параметров (в 23 раза меньше, чем DINOv3 ViT-L) умудряются обгонять его в задачах глубины и сегментации. Звучит как магия? На самом деле — новая архитектура.
В чем трюк? Смесь сверток и трансформеров, но без галлюцинаций
Ant Group не стали изобретать велосипед — они взяли гибридный дизайн: ранние слои — сверточные, глубокие — трансформеры с улучшенным вниманием. Но ключевая находка — динамическая маршрутизация токенов. Модель сама решает, какие области изображения обрабатывать с высоким разрешением, а какие — с низким. Как ZwZ-8B, но на уровне отдельных патчей. Результат — экономия compute без потери точности.
| Модель | Параметры | Depth (RMSE) ↓ | Segmentation mIoU ↑ |
|---|---|---|---|
| LingBot-Vision-S | 13M | 0.28 | 52.1 |
| LingBot-Vision-B | 23M | 0.25 | 54.7 |
| DINOv3 ViT-L | 304M | 0.31 | 50.8 |
💡 В тестах на NYU Depth v2 LingBot-Vision-S превосходит DINOv3 ViT-L по глубине на 10%, используя при этом в 23 раза меньше параметров. И это не cherry-pick — результаты стабильны на всех датасетах.
Кому это нужно прямо сейчас?
Тем, кто тащит SOTA на мобильные устройства. Тем, кто делает роботов с VLA и не может поставить в них серверную стойку. Например, LingBot-VA — их предыдущая работа — уже использует этот бэкбон для управления роботами. Разработчикам edge-устройств, дронов, камер видеонаблюдения — вам сюда.
Альтернативы и сравнение
Есть другие эффективные модели: MobileViT, EfficientViT, TinyViT. Но они либо жертвуют точностью, либо не масштабируются. LingBot-Vision уникален тем, что при размере MobileNet достигает точности ViT. Датасеты типа VBVR становятся доступны для обучения таким компактным архитектурам.
Как попробовать?
Веса открыты на GitHub под Apache 2.0. Fork репозитория, загрузка предобученных чекпойнтов и интеграция с вашим pipeline — дело пары часов. Собрать локальную станцию за $1500 и запустить на ней batch inference — реально.
Совет: не гонитесь за параметрами. Гоняйтесь за качеством на ваших данных. LingBot-Vision — хороший повод пересмотреть свои вычислительные привычки.
