Huawei объявила об открытом доступе к моделям ИИ из серии Pangu. Компания уже опубликовала веса модели Pangu Pro MoE с 72 миллиардами параметров, а также исходный код для базового развертывания и вспомогательные инструменты для работы с большими MoE-моделями. Все эти материалы доступны на платформе GitCode.
Pangu Pro MoE разработана для работы с широким спектром задач обработки естественного языка. Huawei также предоставила технологию выполнения моделей, оптимизированную для собственных чипов Ascend. Это позволяет эффективно запускать большие языковые модели на аппаратном обеспечении компании.
Среди других анонсированных продуктов — языковая модель Pangu 7B, которая содержит 7 миллиардов параметров. Huawei сообщила, что её открытие состоится в ближайшее время. Пользователи смогут применять эти модели для генерации текста, автоматизации перевода и других задач, связанных с анализом текстовой информации.
Открытие доступа к Pangu Pro MoE и запуск Pangu 7B происходит после аналогичного шага компании Baidu, которая недавно открыла исходный код модели Ernie 4.5.