Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

2305 Кого выбрать: сравнение провайдеров Qwen и Gemma для кодинга и общения Qwen3.6-35B и Gemma-4-26B от bartowski, unsloth, lm-studio и Google: разбираем, какой провайдер лучше держит код, а какой - диалог. Таблицы pass@1, влияние кван 8 мин чтения 2306 AI-налог на железо: сколько реально нужно потратить на GPU для локального запуска моделей в 2026 году RTX 4060 Ti 16GB выдаёт 23 токена/с на Gemma 4 26B. Узкая шина памяти и AI-бум взвинтили цены на GPU. Разбираем реальные конфигурации для локального инференса о 10 мин чтения 2307 Практические стратегии управления промптами для LLM: от простых запросов до сложных агентных задач Систематизируем подходы к промпт-инжинирингу: как структурировать системные промпты, использовать каскадные вызовы и управлять контекстом. Готовые шаблоны для р 12 мин чтения 2308 CMP 170HX как GPU для AI: разблокировка 64 ГБ HBM2e и 173 TFLOPS в BF16 CMP 170HX для AI: компактная таблица характеристик с разделением подтверждённых данных и зависящих от модификации, ориентиры бенчмарков и условий измерений, пит 16 мин чтения 2309 Корпоративная ИИ-архитектура: как построить enterprise data platform нового поколения Разбираем ключевые компоненты корпоративной ИИ-архитектуры: data agents на LangGraph и Snowflake Cortex Analyst, AI-powered QA с Soda и AI governance через Lang 10 мин чтения 2310 Acoustic Side-Channel: Как звук дросселей выдаёт рабочую нагрузку LLM и что это говорит о наблюдаемости систем Видеокарта свистит при запуске нейросетей — это не брак, а физический побочный канал. Разбираем, как матричные умножения LLM заставляют дроссели VRM петь на час 8 мин чтения 2311 Разбор запуска GLM 5.2 на CPU: почему декодинг медленный и как это исправить Запустили GLM 5.2 на AMD EPYC 9654 и получили 5-9 токенов/с вместо ожидаемых 30+? Разбираем реальный кейс: почему контекст 131K и KV-кэш Q8_0 убивают производит 7 мин чтения 2312 Byte exact KV cache grafting: как сохранять и восстанавливать знания в Gemma 4 с точностью до байта Byte exact KV cache grafting повышает точность маршрутизации Gemma 4 12B на AIME 2025 с 76.7% до 90.0% через байт-идентичное восстановление KV-состояний. Разбир 7 мин чтения 2313 Arandu v0.6.5: упрощённый запуск моделей через llama.cpp с интеграцией HuggingFace и управлением версиями Arandu v0.6.5 — открытый лаунчер для llama.cpp, который объединяет управление версиями, загрузку моделей с HuggingFace и пресеты аргументов в одном интерфейсе. 6 мин чтения 2314 Разоблачение мошенничества Basalt Labs: Как фейковые заявления о 99.44% на HLE маскируют подмену моделей Basalt Labs заявил о рекордных 99.44% на бенчмарке HLE, но расследование вскрыло подмену: опубликованная модель — копия Qwen2.5-7B-Instruct, а на сайте работает 6 мин чтения 2315 Strix Halo под нагрузкой: тестирование инференса LLM на мини-ПК с Ryzen AI Max+ 395 14.2 токен/с на Qwen 3.6-35B-A3B под 32 параллельными запросами, 30-минутный тест без критического троттлинга и +28% от оптимизаций. Детальные замеры Beelink GT 10 мин чтения 2316 Trivium: CLI-инструмент для воспроизводимого управления навыками AI-агентов Trivium — CLI-инструмент для воспроизводимого управления навыками AI-агентов. Фиксация версий по Git-коммитам, lock-файл зависимостей и именованные окружения дл 5 мин чтения