Майкрософт представила чип Майя 300 с архитектурой чиплетов для ускорения искусственного интеллекта

Корпорация Майкрософт официально представила свой третий поколенный ускоритель вычислений для задач искусственного интеллекта под названием Майя 300. Данное устройство является прямым развитием линейки, следующей за моделью Майя 100, выпущенной в две тысячи двадцать третьем году, и моделью Майя 200, дебютировавшей в начале две тысячи двадцать шестого года и уже используемой в производственных сервисах, включая Копилот. Новинка позиционируется как значительное обновление предыдущей версии с упором на энергоэффективность и производительность при обработке больших объемов данных.

Согласно заявленным характеристикам, чип Майя 300 способен генерировать токены в семь раз быстрее по сравнению с предшественником Майя 200. Показатель энергоэффективности, измеряемый в количестве токенов на мегаватт, улучшился на сорок процентов при сравнении с использованием традиционных графических процессоров. Общая эффективность системы на один ватт возросла в два с половиной раза. Эти улучшения позволяют разместить в одной стойке девяносто шесть единиц оборудования вместо прежних сорока восьми, при этом общее энергопотребление стойки остается неизменным и составляет сто шестьдесят семь киловатт.

В основе устройства лежит развитая архитектура потока данных с локальным доступом и программным определением, которую разработчики называют СДЛА. Данный подход предполагает разделение пути управления и пути передачи данных, возлагая на программное обеспечение задачу оптимизации расположения информации для повышения эффективности. Модель Майя 300 адаптирована для работы с длинным контекстом, моделями, требующими сложных логических вычислений, а также для задач, связанных с интенсивным декодированием. Для реализации этих целей применяется технология чиплетов, позволяющая соединять несколько кристаллов в единую систему.

Для минимизации задержек передачи данных используется память с неравномерным доступом, размещенная в непосредственной близости от вычислительных блоков. Внедрен новый формат данных с пониженной точностью, обозначаемый как MXFP4, который имеет уменьшенную разрядность. Это решение позволяет сократить потребление памяти и объем перемещаемых данных, что критически важно для запуска крупных моделей с расширенным контекстом. Кроме того, в новинке применена оперативная память стандарта HBM4, обеспечивающая пропускную способность восемнадцать терабайт в секунду, что в два с половиной раза превышает показатель семь целых одна десятая терабайта в секунду у памяти предыдущего стандарта HBM3E.

Издание Блогнан сообщило о том, что реальное внедрение чипа Майя 300 в эксплуатацию ожидается в две тысячи двадцать седьмом году. Представленные технические детали указывают на то, что компания делает ставку на специализированную архитектуру и новые стандарты памяти для преодоления ограничений текущих решений в области искусственного интеллекта.

Сообщает Blognone.