Huawei представила чип для смартфонов с AI-моделью на 30 миллиардов параметров
По информации TechNode, Huawei раскрыла детали работы чипов Kirin 9050, которые позволяют запускать AI-модель на 30 миллиардов параметров непосредственно на смартфоне и без подключения к интернету.
За обработку задач отвечает обновленный нейропроцессор Da Vinci. Он использует низкобитную квантизацию и распределяет работу между памятью и вычислительными блоками смартфона, чтобы запускать крупную модель на мобильном устройстве.
Модель построена по архитектуре mixture-of-experts: одновременно в работе задействованы около 2 миллиардов параметров, а остальные подключаются при необходимости. Huawei уже показывала эту технологию на презентации чипов в октябре.
Процессор также используется для функций AI-чтения экрана и перелистывания страниц с помощью отслеживания взгляда.
