Перейти к содержанию
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

4681 Gemma 4 на iPhone 17 Pro: самый быстрый мобильный LLM по токенам в секунду Тесты показывают, что Gemma 4 на новом iPhone 17 Pro генерирует текст быстрее всех конкурентов. Разбираем результаты бенчмарка и что это значит для мобильных ас 5 мин чтения 4682 Ускорение Q8_0 моделей в 3.1 раза на Intel Arc: фикс переупорядочивания в llama.cpp Исправление переупорядочивания в llama.cpp повышает загрузку памяти видеокарт Intel Arc, ускоряя генерацию 8-битных моделей втрое. Актуально на 2026 год. 5 мин чтения 4683 Q1_0 — ядерная бомба для сжатия моделей: как 1-битное квантование ggml запускает монстров на CPU Разбираем прорывной 1-битный формат Q1_0 в ggml: как радикально сжимать LLM для запуска на обычных CPU с минимальной памятью в 2026 году. 6 мин чтения 4684 Как создать Android-приложение без навыков программирования: кейс использования Claude и Android Studio Пошаговый кейс: как не-разработчик создает и публикует приложение в RuStore, используя ИИ. Инструменты, процесс, обратная связь. Работает в 2026 году. 7 мин чтения 4685 Google выпустила офлайн-приложение для диктовки на iOS: обзор Google AI Edge Eloquent Обзор Google AI Edge Eloquent — приложения для офлайн-диктовки на iPhone. Как работает Gemma ASR v3.2, удаление слов-паразитов, интеграция с Gmail. 4 мин чтения 4686 Как протестировать LLM на Mac: обзор 37 моделей и инструкция по использованию llama-bench Полный гайд по тестированию 37 локальных LLM на MacBook Air M5. Сравнение скорости и инструкция по использованию инструмента llama-bench для выбора оптимальной 8 мин чтения 4687 GPT-1900: Как заставить нейросеть говорить языком прошлого века на вашей видеокарте Пошаговый гайд по обучению локальной LLM на исторических текстах. Сбор датасета, выбор модели, тонкая настройка и запуск инференса на своем железе. 9 мин чтения 4688 Гибридный RAG с Amazon Bedrock и OpenSearch: пошаговая реализация интеллектуального поиска для агентных ассистентов Полный гайд по созданию агентного ассистента с гибридным RAG на Amazon Bedrock и OpenSearch. Пошаговая реализация, код, настройки и ловушки. 9 мин чтения 4689 Fine-tuning Qwen 2.5 7B для точного tool calling: настройка RLVR в SageMaker и улучшение на 57% Как настроить RLVR в AWS SageMaker для fine-tuning модели Qwen 2.5 7B и улучшить точность вызова инструментов на 57%. Подробный обзор метода, сравнение с LoRA и 5 мин чтения 4690 Vibecoding: Как заставить LLM меньше врать без дорогой тонкой настройки Практический гайд по Vibecoding - промпт-методу для резкого снижения галлюцинаций и ошибок GPT-5, Gemini 3.0 и других LLM. Готовый промпт и советы. 6 мин чтения 4691 Qwen3.5-397B при квантовании Q2: шокирующая эффективность и настройка llama.cpp с ROCM Практический тест Qwen3.5-397B с квантованием UD_IQ2_M на потребительских видеокартах AMD. Полная настройка llama.cpp с ROCM, бенчмарки и сравнение эффективност 6 мин чтения 4692 Безопасность GPU для локальных LLM: угроза Rowhammer через CUDA ядра и как защититься Узнайте, как атака Rowhammer через CUDA ядра на GPU NVIDIA угрожает безопасности локальных LLM. Практические советы по защите на 2026 год. 5 мин чтения