Перейти к содержанию
Ctrl K
Telegram MAX
Тематическая лента

Подборка материалов

Публикации, объединённые общей практической задачей.

5464 материалов
01 Многоузловые конфигурации Spark Cluster для LLM: опыт сообщества r/LocalLLaMA Разбор уникального кейса: участник r/LocalLLaMA продаёт четырёхузловой Spark-кластер с недокументированными конфигурациями супернод для оптимизации LLM-фреймвор 8 мин чтения 02 Практическое тестирование CMP170HX: 256 ГБ VRAM за $200 — реальность или лотерея? Четыре CMP170HX по 64 ГБ дают 256 ГБ VRAM за $800. Тестируем в llama.cpp: до 120 t/s на 20B моделях, контекст 1M для DeepSeek V4-Flash. Разбираем узкие места, с 9 мин чтения 03 Accel закрывает фонд $550M для Индии: ставка на ИИ и новые горизонты венчурного рынка Accel закрыла фонд для Индии на $550 млн, несмотря на неиспользованные резервы предыдущего. Разбираем стратегию: почему ИИ стал горизонтальной технологией, каки 5 мин чтения 04 Могут ли LLM распознавать свои галлюцинации через анализ logprobs? Эксперимент с Gemma и Qwen Экспериментальная проверка гипотезы: можно ли отловить галлюцинации LLM через анализ logprobs в момент первого появления факта? Тесты Gemma и Qwen показали AUC 7 мин чтения 05 Тест Muse Glimmer в реальных задачах кодинга: результаты, ограничения и сравнение с Qwen3.6 27B Практический тест Muse Glimmer с Q4 квантизацией на M5 Pro: 17 токенов/с, сравнение качества кода с Qwen3.6 27B на frontend и backend задачах. Честный обзор огр 8 мин чтения 06 Muse Spark 1.2: стратегический ход Meta на фоне задержки Llama 4 Behemoth Muse Spark 1.2 - открытая мультимодальная модель Meta на 30B параметров: GGUF-квантизации от Q2_K до Q8_0, запуск локально на GPU с 24 ГБ VRAM или на CPU. Сравн 10 мин чтения 07 Daybreak Blue и Red: как OpenAI перестраивает киберзащиту с помощью новых уровней и модели GPT-5.6-Cyber OpenAI разделила программу киберзащиты Daybreak на два уровня: Blue — три сервиса для повседневной защиты, Red — тестирование безопасности и модель GPT-5.6-Cybe 6 мин чтения 08 Tender offer OpenAI на $7 млрд: почему это сигнал к отсрочке IPO и что значит для рынка AI OpenAI завершила выкуп акций у сотрудников на $7 млрд при оценке $852 млрд. Разбираем, как tender offer влияет на планы по IPO, мотивацию команды и тренды частн 6 мин чтения 09 Muse Glimmer 30B на AMD v620: реальный опыт с Tensor Split и DFlash-декодированием Запускаем Muse Glimmer 30B GGUF на двух AMD v620: 658 ток/с на промпте и 36 ток/с генерации с DFlash. Полные команды llama-server, сравнение с Qwen по качеству 8 мин чтения 10 Ling 3.0 Flash на Strix Halo: тесты скорости, сравнение с Qwen-122b и решение проблем с tool calls Ling 3.0 Flash на Strix Halo выдаёт 1840 токенов/с в int4 — вдвое быстрее Qwen-122b. Разбираем тесты скорости, конфигурации vLLM с ROCm/HiP и решение проблем с 9 мин чтения 11 Проверка аблитерации моделей: почему Qwen3.6-27B-Fable-Fusion отклоняет запросы в пентест-контексте Модель DavidAU Qwen3.6-27B-Fable-Fusion заявлена как uncensored, но отклоняет пентест-запросы. Разбираем причины: частичная аблитерация, скрытые системные промп 7 мин чтения 12 Манифест Цукерберга о персональном ИИ: почему он вызывает недоверие Разбираем манифест Марка Цукерберга о персональном суперинтеллекте: почему обещания Meta вызывают сомнения у технических специалистов, какие риски остались за к 10 мин чтения