Модуль AI в смартфонах Huawei — это выделенный нейропроцессор (NPU), интегрированный в системные кристаллы серии Kirin, который разгружает центральный процессор при выполнении задач машинного обучения. Впервые специализированный блок появился в Kirin 970 (2017 год) и с тех пор эволюционировал от отдельного ядра до масштабируемой архитектуры DaVinci в флагманских SoC серии 9000. Именно этот аппаратный ускоритель позволяет устройству распознавать сцены в камере, переводить речь офлайн и управлять потреблением энергии без обращения к облачным серверам.

В отличие от универсальных CPU и GPU, NPU оптимизирован под матричные вычисления с низкой точностью (INT8, FP16), что критично для инференса нейросетей. Программная оболочка HiAI Engine предоставляет разработчикам API для доступа к этим вычислениям, а фреймворк MindSpore Lite позволяет запускать модели прямо на устройстве. Такая теснота железа и софта отличает подход Huawei от решений конкурентов, где ИИ-задачи часто выполняются на графическом процессоре.

Архитектура и поколения NPU у Huawei

Эволюция нейропроцессора прошла три ключевых этапа. В Kirin 970 использовался NPU первой генерации на базе лицензионного ядра Cambricon — он давал около 1.9 TOPS производительности. Kirin 980 получил двойной NPU (2x Cambricon 1H), удвоив пропускную способность. Настоящий прорыв принес Kirin 990 5G и серии Kirin 9000/9000E с собственной архитектурой DaVinci: два «больших» ядра для тяжелых задач (Large Core) и одно «маленькое» для фоновых сценариев (Tiny Core), суммарная мощность которых превышает 10 TOPS.

Архитектура DaVinci поддерживает гибкое квантование моделей и смешанную точность вычислений. Это позволяет запускать на смартфоне модели, которые ранее требовали серверного железа, например, крупные языковые модели (LLM) в квантованном виде. В чипах для среднего сегмента (серия Kirin 8000/810/820) используется упрощенная версия с одним большим ядром DaVinci, сохраняющая совместимость с HiAI.

📊 Какую задачу ИИ на смартфоне вы используете чаще всего?
Распознавание сцен в камере
Офлайн-перевод текста/речи
Умное управление батареей
Генеративный ИИ (чат-боты, рисование)

Как работает модуль AI в реальных задачах

Самый заметный сценарий — компьютерная фотография. NPU анализирует кадр в реальном времени: определяет тип сцены (портрет, еда, закат, документ), сегментирует объекты для боке, снимает шум на высоких ISO и восстанавливает детали в ночном режиме. В Mate 60 Pro и Pura 70 Ultra нейросеть управляет механической диафрагмой и режимом RYYB-сенсора, принимая решения за миллисекунды.

Второй pilar — наустройственный перевод и распознавание речи. Приложение «Переводчик» и клавиатура Celia Keyboard используют NPU для работы офлайн: загрузка языковых пакетов (около 50-100 Мб на язык) позволяет переводить диалоги в режиме полета. Третий сценарий — системная оптимизация: алгоритм AI Power Saving предсказывает паттерны использования приложений и регулирует частоты CPU/GPU, яркость экрана и работу модемов, добавляя до 2 часов экранного времени.

  • 📸 AI Master / AI Photo: автоматический выбор настроек камеры по 1500+ сценам
  • 🗣️ Офлайн-перевод: работа без интернета за счет NPU
  • 🔋 AI Power Management: предсказательное управление ресурсами
  • 🛡️ AI Privacy: локальное распознавание лиц для Face ID и папки «Секретное»
⚠️ Внимание: на устройствах без сервисов Google (GMS) часть облачных ИИ-функций (Google Lens, Assistant) недоступна, но нативные аналоги от Huawei работают быстрее за счет локального NPU.

Программная экосистема: HiAI и MindSpore

Для разработчиков Huawei предоставляет стек HiAI Foundation — набор библиотек, драйверов и инструментов конвертации моделей. Конвертер HiAI Model Converter трансформирует модели из TensorFlow, PyTorch, ONNX, Caffe в формат .om (Offline Model), оптимизированный под DaVinci. После конвертации модель запускает HiAI Client API с минимальной латентностью.

С 2021 года стратегический вектор сместился на MindSpore — фреймворк «обучение-инференс» единого кода. MindSpore Lite — это легковесный движок инференса для мобильных и IoT-устройств. Он поддерживает динамические графы, автоматическое параллелизм и квантование Post-Training Quantization (PTQ) и Quantization Aware Training (QAT). Разработчик может обучить модель в облаке на ModelArts, сжать её и задеплоить на смартфон одной командой.

Технические детали архитектуры DaVinci

Архитектура DaVinci построена на принципе Dataflow: инструкции распределяются по вычислительным единицам (Cube, Vector, Scalar) по мере готовности операндов, а не последовательно. Cube Unit выполняет матричные умножения 16x16x16 (INT8) или 16x16x8 (FP16) за такт. Vector Unit — векторные операции (FP32/INT32), Scalar Unit — скалярная логика и управление потоком. Tiny Core имеет только Cube и Scalar, что достаточно для keyword spotting и жестов. Кэш L1/L2 объединен для CPU/NPU, что снижает накладные расходы на копирование данных.

Влияние на автономность и производительность

Главный выигрыш NPU — энергоэффективность инференса. Выполнение той же задачи распознавания изображения на NPU потребляет в 5-25 раз меньше энергии, чем на CPU, и в 2-5 раз меньше, чем на GPU (зависит от модели и квантования). Это критично для «всегда включенных» сценариев: детекция слова-триггера «Hey Celia», анализ жестов рукой над экраном (Air Gestures), мониторинг осанки в приложении Здоровье.

Однако есть нюанс: NPU — это shared-ресурс. Если фоновый системный процесс (например, индексация фото в Галерее) загружает Tiny Core, пользовательское приложение может получить задержку доступа к Large Core. В EMUI 14 / HarmonyOS 4 введен механизм приоритезации очередей: системные задачи имеют низкий приоритет, инференс фокуса камеры — высокий. Разработчики могут запрашивать эксклюзивный доступ через HiAI Context для критичных по латентности задач.

💡

NPU дает прирост энергоэффективности 5-25x против CPU для задач ИИ, но требует грамотного квантования моделей и управления очередями задач.

Какие смартфоны имеют модуль AI: таблица совместимости

Серия SoC Поколение NPU Архитектура NPU Примеры смартфонов Поддержка HiAI / MindSpore Lite
Kirin 970 1-е (Cambricon) Отдельный блок Mate 10, P20, Honor View 10 HiAI 1.x / —
Kirin 980 2-е (Dual Cambricon) Два ядра 1H Mate 20, P30, Honor Magic 2 HiAI 2.x / —
Kirin 990 4G/5G 3-е (DaVinci Lite) 2 Big + 1 Tiny Mate 30, P40, Nova 7 HiAI 3.x / MindSpore Lite
Kirin 9000 / 9000E 3-е (DaVinci Full) 2 Big + 1 Tiny (у 9000E: 1 Big + 1 Tiny) Mate 40, P50 Pro, Mate X2 HiAI 3.x / MindSpore Lite
Kirin 9000S / 9010 4-е (DaVinci v2) Улучшенные Big/Tiny, поддержка INT4 Mate 60, Pura 70, Mate X5 HiAI 4.x / MindSpore Lite 2.x

Проблемы и ограничения работы ИИ-модуля

Не все функции, заявленные маркетингом, работают исключительно на NPU. Часть «умных» фишек в EMUI/HarmonyOS (умная очистка памяти, предзагрузка приложений) основана на эвристиках и статистике, а не на нейросетях. При сбросе настроек или обновлении ОС накопленная модель поведения пользователя удаляется, и система «учится» заново 3-7 дней — в этот период автономность может временно просесть.

Ограничение по памяти: модели для NPU должны помещаться в выделенный буфер (обычно 64-128 Мб VRAM для NPU). Крупные генеративные модели (Stable Diffusion, LLM 7B+) даже в INT4 не влезают полностью и требуют offloading на CPU/GPU или streaming загрузки слоев, что убивает скорость. На текущем железе комфортно работают только компактные модели: классификация, детекция, сегментация, TTS/ASR small, эмбеддинги.

⚠️ Внимание: установка кастомных прошивок или получение root-прав часто ломает драйверы NPU (hi_ai_engine.so), после чего ИИ-функции камеры и переводчика перестают работать или падают с ошибкой HI_AI_ENGINE_ERROR_DEVICE_UNAVAILABLE.

Как проверить работу NPU на устройстве

Самый простой способ — зайти в меню разработчика и включить отображение загрузки NPU. В HarmonyOS 4/EMUI 14: Настройки → Система и обновления → Для разработчиков → Мониторинг нагрузки → Показать загрузку NPU. На экране появится наложение с графиком утилизации Large Core и Tiny Core в реальном времени. Откройте камеру, наведите на сложную сцену — график пойдет вверх.

Для глубокой диагностики есть приложение HiAI Benchmark (доступно в AppGallery). Оно прогоняет стандартные модели (MobileNet, ResNet, YOLO, BERT-tiny) и выдает FPS и латентность на NPU vs CPU. Результаты можно сравнить с референсными значениями для вашего SoC. Если NPU показывает 0 FPS или ошибку инициализации — драйвер не загружен или модель не совместима с версией HiAI.

☑️ Проверка работоспособности NPU

Выполнено: 0 / 5

Перспективы: генеративный ИИ на краю

С выпуском Pangu Model 3.0 и интеграцией в HarmonyOS NEXT Huawei делает ставку на наустройственный генеративный ИИ. Архитектура DaVinci v2 в Kirin 9010 добавила поддержку INT4 квантования и структурного разрежения (sparsity), что позволяет разместить LLM на 1.5-3B параметров в памяти смартфона. Функции: рерайт текста в блокноте, суммаризация записей диктофона, генерация обоев по текстовому промпту — всё выполняется локально.

Для разработчиков это означает доступ к MindSpore Lite GenAI API — высокоуровневым оберткам для токенизации, сэмплирования и KV-кэширования. В отличие от облачных API, здесь нет лимитов запросов и задержек сети, но есть жесткое ограничение контекстного окна (обычно 2048-4096 токенов) и скорость генерации 5-15 токенов/сек на флагмане 2026 года.

💡

Если вы разработчик, тестируйте модели на реальном железе через HiAI Benchmark: эмуляторы и облачные фермы не отражают реальную латентность NPU и ограничения памяти VRAM.

Часто задаваемые вопросы (FAQ)
Можно ли обновить модуль AI отдельно от прошивки?

Нет, драйверы NPU (hi_ai_engine) и прошивку самого блока обновляет только полная OTA-прошивка системы. В AppGallery обновляются только библиотеки HiAI SDK и системные приложения-исполнители (Камера, Переводчик).

Почему на моем телефоне с Kirin 980 нет новых ИИ-функций из Mate 60?

Старые архитектуры NPU (Cambricon) не поддерживают набор инструкций DaVinci (INT4, структурное разрежение, новые операторы внимания). Новые модели просто не сконвертируются в формат .om для старого железа.

Влияет ли отключение «Сборки данных об использовании» на работу NPU?

Напрямую — нет, локальный инференс работает автономно. Косвенно — да: системные модели предсказания запуска приложений и управления питанием переобучаются на вашем поведении. Сброс этой статистики вернет систему к «холодному» старту.

Работает ли NPU при разблокировке по лицу в темноте?

Да, Tiny Core NPU постоянно мониторит ИК-камеру и TOF-сенсор в режиме ожидания (Always On). Потребление в этом режиме — единицы милливатт, что не влияет на standby-время.

Можно ли запустить свою PyTorch-модель на NPU без конвертации?

Нет, прямая интерпретация PyTorch на NPU невозможна. Обязателен экспорт в ONNX и конвертация через HiAI Model Converter или MindSpore Lite Converter в формат .om / .ms.