Перейти к содержанию
Ctrl K
Telegram MAX
Все выпуски

Архив публикаций

Все материалы AiManual в единой хронологической ленте.

3577 llama.cpp B9387: AMD ROCm получает долгожданное ускорение prefill — бенчмарки и сравнение Свежий релиз llama.cpp B9387 приносит до 2.5x ускорение обработки промптов на AMD GPU под ROCm. Бенчмарки, сравнение с vLLM, советы по настройке. 5 мин чтения 3578 Gentle Coding: математически доказанная техника промптинга, улучшающая любые LLM без регрессии Узнайте, как техника Gentle Coding с математическим обоснованием улучшает любые LLM (GPT-5.5, Claude 3.5 Sonnet) — без падения метрик. Пошаговый гайд и примеры. 8 мин чтения 3579 Как установить SearXNG на Windows без Docker и WSL: пошаговая инструкция Полное руководство по запуску SearXNG на Windows нативно — без Docker и WSL. Установка Python, настройка, запуск, решение ошибок. Для приватного поиска и RAG. 6 мин чтения 3580 Патч для Claude CLI 2.1.154+: чиним совместимость с vLLM новыми ролями сообщений Решение проблемы совместимости Claude CLI 2.1.154+ с vLLM из-за новых ролей сообщений. Подробный гайд с кодом патча для локальных LLM. 6 мин чтения 3581 Почему LLM верят лжи даже после того, как им сказали правду: новое исследование о negation neglect Свежее исследование раскрывает механизм, из-за которого LLM интегрируют ложные утверждения и не могут от них отказаться. Разбор причин галлюцинаций и путей реше 5 мин чтения 3582 Безопасный HTTPS-доступ к SageMaker MLflow без SDK: прокси на Flask + IAM Создайте REST API прокси для SageMaker MLflow, чтобы обойти SDK и получить безопасный HTTPS-доступ. Пошаговый гайд с Flask, IAM и presigned URL. 7 мин чтения 3583 Тестируем глубоких AI-агентов в production: LangSmith + pytest + Bedrock без магии и мантр Пошаговой гайд по оценке недетерминированных агентов в продакшне: трассировка LangSmith, pytest-тесты, Amazon Bedrock и Nova 2 Lite. Реальные кейсы, код, CI/CD. 8 мин чтения 3584 Больше никаких ссылок в Slack: как встроить SageMaker MLflow в корпоративный портал с SSO Пошаговое руководство, как встроить SageMaker MLflow в корпоративный портал с SSO через iframe и presigned URLs. Избавляемся от ручной раздачи ссылок для ML-ком 7 мин чтения 3585 AI agents vs human traffic: AWS перепроектирует облако для машинного интернета AWS OpenSearch Serverless redesign для AI-агентов сигнализирует о смене парадигмы: инфраструктура больше не для людей. Разбираем, как облака адаптируются к маши 5 мин чтения 3586 Запуск Mimo 2.5 Pro на 8x Nvidia GB10: производительность и параллельные запросы Тесты Mimo 2.5 Pro на кластере из 8 Nvidia GB10: токены в секунду при разных контекстах, параллельные запросы, сравнение с H20 и RTX 4090. Данные для энтузиасто 5 мин чтения 3587 GPU-часы и AI-токены: как фьючерсы превращают искусственный интеллект в сырьевой рынок CME Group запускает фьючерсы на GPU-рентинг, а биржи деривативов — на AI-токены. Разбираемся, как хеджировать цены на H100, B200 и вычислительные мощности. 5 мин чтения 3588 Anthropic собрал $65 млрд и почти стал триллионером: что это значит для Claude и IPO Anthropic завершил крупнейший раунд финансирования на $65 млрд, оценка — $965 млрд. Как это повлияет на Claude Opus 4.8, IPO и конкуренцию с OpenAI. 4 мин чтения