Статьи по тегу «sparse attention»

Z.ai выпустила GLM-5.3-Flash: 320B параметров, 1 млн токенов контекста и нативная мультимодальность

26 августа 2026, 17:51

Z.ai выпустила GLM-5.3-Flash: 320B параметров, 1 млн токенов контекста и нативная мультимодальность

Z.ai выпустила GLM-5.3-Flash — первую нативно мультимодальную схема семейства GLM-5. Она сочетает 320 млрд параметров, из которых на каждом токене активируется приблизительно 18 млрд, и гибридную архи

MiniMax M3 обошла GPT-5.5 на SWE-Bench Pro и выйдет с открытыми весами

1 июня 2026, 09:01

MiniMax M3 обошла GPT-5.5 на SWE-Bench Pro и выйдет с открытыми весами

MiniMax M3 вышла сегодня — это мощная языковая модель, которая одновременно предлагает frontier-уровень в кодировании и агентных задачах, контекст до 1 миллиона токенов и нативную мультимодальность (и

SubQ: первая LLM с контекстом в 12 млн токенов

6 мая 2026, 11:21

SubQ: первая LLM с контекстом в 12 млн токенов

Организация Subquadratic выпустила схема SubQ 1M-Preview — первую, по их словам, LLM на целиком субквадратичной архитектуре. Речь про SSA (Subquadratic Sparse Attention): вместо того чтобы сравнивать