Статьи по тегу «инференс»
8 октября 2026, 12:56
Selectel расширяет платформу для запуска и развития ИИ-проектов
Selectel анонсировал обновление ИИ-платформы. Решение дополнят два новых продукта для инференса: Token Factory и Custom Inference. Token Factory предоставляет доступ к популярным open source-моделям,
6 октября 2026, 10:20
В Рег.облаке запустили инференс ИИ-моделей на NVIDIA B300
В Рег.облаке расширили GPU-инфраструктуру ускорителями NVIDIA B200 и B300. Новые мощности уже доступны клиентам, а часть B300 мы задействовали внутри собственной ИИ-платформы — на них идет инференс мо
17 сентября 2026, 22:24
Fujitsu представила 144-ядерный чип Monaka для ИИ‑серверов
Fujitsu представила серверный процессор Monaka. Процессор оснастили 144 ядрами Arm, частоту до 3,8 ГГц и аппаратные инструкции для инференса нейросетей. Продажи начнутся в конце 2026 года, а серийные
14 сентября 2026, 17:50
Встречайте Maple-Preview — новую открытую языковую схема от DeepGrove
Встречайте Maple-Preview: 20B-A1B тернарная MoE-модель, которая выдает 218 токенов в секунду на CPU (Mac Mini M4). Это в некоторое количество раз превышает показатели многих классических плотных или р
28 августа 2026, 12:00
Ответ Blackwell: OpenAI раскрыла характеристики собственного инференс-ASIC Jalapeño
На Hot Chips 2026 OpenAI и Broadcom в начальный раз раскрыли цифры по Jalapeño — собственному ASIC компании для инференса. Заявка крупная: прирасти в 1,5–1,9 раз по пропускной способности и 1,7–3,6 по
27 августа 2026, 16:30
Зачем пересылать гигабайты? Как Samsung встроила вычисления прямо в банки памяти LPDDR5X-PIM
На Hot Chips 2026 Samsung представила LPDDR5X-PIM — внешне обычную LPDDR5X, внутри которой в каждом банке стоят MAC-деревья. На инференсе Llama 3.1 8B это дало х3,01 по токенам в секунду (81,3 против
26 августа 2026, 11:23
Процессор OpenAI разогнал Kimi K2.5 почти до 700 токенов в секунду
В июне OpenAI и Broadcom представили Jalapeño, первый собственный чип OpenAI для инференса языковых моделей. Тогда компании рассказывали в основном про архитектуру и обещали начать развёртывание до ко
13 августа 2026, 22:31
OpenAI и Cerebras разогнали GPT-5.6 Sol до 750 токенов в секунду
OpenAI и Cerebras представили Ultrafast, новый режим обработки запросов GPT-5.6 Sol в OpenAI api. Он генерирует до 750 выходных токенов в секунду и работает до 14 раз быстрее Standard processing. Это
8 июля 2026, 10:58
DeepSeek тайно собирает команду для собственного чипа — вслед за OpenAI и Anthropic
DeepSeek, год назад взорвавший рынок своей R1-моделью, начал разработку собственного чипа для инференса. Проект запущен приблизительно года назад, но только сейчас стал достоянием общественности. Проц