Статьи по тегу «vLLM»
20 октября 2026, 09:54
Ваш запрос весьма важен для нас: Gateway api Inference Extension в модуле alb Deckhouse Platform
Представьте: пятница, вечер, вам пишет коллега и жалуется, что модель стала отвечать весьма долго. Вы открываете мониторинг и видите на дашборде две реплики одной модели. У первой GPU загружен практич
15 сентября 2026, 10:01
Галлюцинации недели: DeepSeek V4.1 Flash, Meta Muse и мой вердикт после сравнения GPT-6 Astra с Fable 5.1
Последние две недели я плотно гонял GPT-6 Astra и Fable 5.1 на реальных проектах. В итоге выбрал одну, но функционировать всё равно буду с обеими. Ознакомиться далее
27 августа 2026, 16:06
IBM уходит в Agentic RL: три новые модели Granite 4.2 научили автономно программировать в терминале
25 августа IBM Research опубликовала Granite 4.2 — семейство из трех моделей на 3, 8 и 30 млрд параметров с переключаемым режимом рассуждений. Веса открыты под Apache 2.0, без ограничений на коммерчес
4 августа 2026, 22:43
Liquid AI представила LFM2.5-2.6B — локального агентного помощника для телефона и ноутбука
Liquid AI выпустила LFM2.5-2.6B — компактную агентную схема, которая умеет планировать действия, вызывать инструменты и выполнять многошаговые задачи полностью на устройстве, без облачного программный
12 июня 2026, 14:53
Moonshot AI выпустили Kimi-K2.7-Code
Moonshot AI выпустили Kimi-K2.7-Code — новую версию своей coding-модели на базе K2.6. Веса открыты на HuggingFace под лицензией Modified MIT. По бенчмаркам прирост по сравнению с K2.6 составил +21.8%
3 июня 2026, 15:04
«ИИ-инженер» — свежий курс в Практикуме PRO. От LLM до продакшн-систем
Бизнес давно вышел за рамки разовых экспериментов с нейросетями. Компании строят LLM-системы, которые живут в продакшне, обрабатывают реальные запросы и влияют на процессы. Специалистов, которые умеют
6 мая 2026, 10:57
Gemma 4 стала быстрее в 3 раза без потери качества
Google открыла веса вспомогательных моделей для всей линейки Gemma 4 — E2B, E4B, 26B MoE и 31B Dense. Они доступны на Hugging Face и Kaggle под Apache 2.0 и уже работают с transformers, MLX, vLLM, SGL