В 2021 году у HUAWEI появилась большая языковая модель Pangu. По информации Huawei Central, на ее основе компания разрабатывает АИ-бот Pangu Chat. Портал рассказал все известные подробности о языковой модели и будущем продукте китайского техногиганта.
Модель Pangu получила 100 миллиардов параметров (у GPT-3 их 175 млрд) и обучена на естественном языке человека. Она способна работать с информацией о погоде, сведения о местонахождении, текстом и аудио, умеет распознавать и генерировать ответы, а также поддерживает обучение на небольших наборах данных.
Сообщается, что у компании есть и более продвинутая версия модели с 1,1 трлн параметров (на уровне GPT-3.5): для ее тестирования использовали по меньшей мере 2000 собственных ШИ-процессоров Ascend 910. Ранее в Китае ни одна из компаний не представляла модель с такими возможностями.
По предварительной информации, релиз фирменного чат-бота может состояться на мероприятии Developer Conference (Cloud) 7 июля. По слухам, его представят как средство для корпоративного или государственного применения, поэтому оно не будет доступно рядовым пользователям.