инференс

OpenAI представила собственный чип Jalapeño для ускорения инференса нейросетей

Компания OpenAI анонсировала собственный процессор Jalapeño, специально оптимизированный под задачи инференса в больших языковых моделях. Разработка заняла всего девять месяцев при участии Broadcom и Celestica. Чип

OpenAI представила собственный чип Jalapeño для ускорения инференса нейросетей Читать запись »

Исследование показывает стадии внедрения ИИ: от бесплатных версий до агентов

Новые данные о распространении ИИ-технологий среди пользователей: от бесплатных версий до платных чат-ботов и агентов. Рынок ещё далёк от насыщения, но уже испытывает дефицит вычислительных мощностей.

Исследование показывает стадии внедрения ИИ: от бесплатных версий до агентов Читать запись »

Hunyuan представил Hy3 с 295 млрд параметров и контекстом 256K

Китайская команда Hunyuan выпустила в открытый доступ Hy3 — гибридную MoE-модель с 295 млрд параметров, из которых 21 млрд активны. Контекстное окно составляет 256 тыс. токенов, а инференс ускорился на 47% при работе с д

Hunyuan представил Hy3 с 295 млрд параметров и контекстом 256K Читать запись »

Прокрутить вверх