隨著邊緣AI的大火，Tiny ML和NPU MCU也跟著火了起來。早在2022年，ST就曾宣布，STM32N6將成為ST首個(gè)加入NPU的產(chǎn)品，很多工程師也對(duì)這一產(chǎn)品翹首以盼。

在STM32峰會(huì)上，STM32N6正式亮相?！拔覀儗?duì)于STM32N6的定義是首款具有 AI 加速能力的高性能的STM32 MCU。”在日前的STM32媒體溝通會(huì)上，意法半導(dǎo)體中國區(qū)微控制器、數(shù)字 IC 與射頻產(chǎn)品部 (MDRF) 微控制器產(chǎn)品市場經(jīng)理丁曉磊 (Lisa DING）如是說。

有史以來功能最強(qiáng)大的STM32系列

?STM32N6是意法半導(dǎo)體（ST）發(fā)布的“史上最強(qiáng)”STM32產(chǎn)品，旨在讓邊緣AI隨處可見?。STM32N6是ST首款集成神經(jīng)處理單元（NPU）的微控制器（MCU），具有強(qiáng)大的AI加速能力，特別適用于邊緣AI應(yīng)用。

主要特點(diǎn)和優(yōu)勢

?高性能處理器?：STM32N6搭載Arm v8.1架構(gòu)的Cortex-M55內(nèi)核，主頻可達(dá)800MHz，性能達(dá)到3360 Coremark，280 DMIPS?。

?專用NPU?：集成Neural-Art Accelerator，提供高達(dá)600 GOPS的AI算力，相當(dāng)于STM32H7的600倍，且具有3TOPS/W的優(yōu)異能效比?。

?低功耗設(shè)計(jì)?：在運(yùn)行AI模型時(shí)，不需要任何散熱裝置，實(shí)現(xiàn)了高性能與低功耗的平衡?。

?豐富的接口和功能?：包括MIPI CSI-2攝像頭接口、圖像信號(hào)處理（ISP）、H.264硬件編碼器、JPEG編解碼器等，適用于多種多媒體和計(jì)算機(jī)視覺應(yīng)用?。

?安全特性?：集成Arm TrustZone，支持目標(biāo)認(rèn)證和PSA認(rèn)證，確保設(shè)備的安全性?。

應(yīng)用場景

STM32N6適用于多種邊緣AI應(yīng)用場景，包括但不限于：

?智能家居?：通過語音識(shí)別和圖像識(shí)別，實(shí)現(xiàn)智能設(shè)備的精準(zhǔn)控制?。

?工業(yè)自動(dòng)化?：用于機(jī)器視覺、預(yù)測維護(hù)和過程控制。

?可穿戴設(shè)備?：實(shí)現(xiàn)智能健康監(jiān)測和個(gè)性化服務(wù)。

?車載系統(tǒng)?：用于自動(dòng)駕駛、行人檢測和智能導(dǎo)航。

讓邊緣AI隨處可見

生成式AI、大語言模型、云端AI是現(xiàn)在的大趨勢，而在萬物互聯(lián)時(shí)代，如何將AI從云端下沉到邊緣端，使得邊緣具備AI能力是當(dāng)下必須考慮的問題。而讓物聯(lián)網(wǎng)設(shè)備和汽車同時(shí)兼?zhèn)渲悄?、安全和互?lián)三大支柱能力，也是當(dāng)下正在研究的問題。

丁曉磊表示，邊緣AI的實(shí)效性更強(qiáng)，隱私保護(hù)性也更好，可以更高效地進(jìn)行自主計(jì)算和執(zhí)行。信息安全是云連接智能時(shí)代不可或缺的能力，而邊緣AI則能夠識(shí)別驗(yàn)證、數(shù)據(jù)保護(hù)，實(shí)現(xiàn)安全的能力。云端AI則能夠用更大算力，去實(shí)現(xiàn)更大語言模型。這樣來看，雙方互相協(xié)同，擁有不同的定位，并且在形成一個(gè)云邊端的架構(gòu)。

基于對(duì)上述架構(gòu)理解，我們將越來越多地看到AI的推理端逐步從云端下沉至邊緣端，這樣能夠帶來諸多優(yōu)勢：首先，邊緣端具有優(yōu)越的實(shí)時(shí)性，能夠提供超低延遲，滿足工業(yè)、消費(fèi)類、醫(yī)療及家電等領(lǐng)域?qū)?shí)時(shí)性的高需求；其次，隨著算力不斷提升和成本降低，邊緣端能夠有效減少數(shù)據(jù)上傳至云端的需求，大大增強(qiáng)了隱私性和安全性；最后，邊緣端還具備高能效、低數(shù)據(jù)傳輸率、低功耗等優(yōu)勢，能夠?qū)崿F(xiàn)更多新型操作。因此，邊緣端推理在各方面展現(xiàn)出巨大的優(yōu)勢。

在構(gòu)建一個(gè)具備AI算力的世界時(shí)，我們需要思考如何在云端與邊緣端之間實(shí)現(xiàn)合理的分布。隨著發(fā)展，云端中心的架構(gòu)逐漸轉(zhuǎn)向以邊緣端為中心，而要實(shí)現(xiàn)這一轉(zhuǎn)變，就需要不同的硬件和軟件支持。這正是ST推出STM32N6的原因所在。

在邊緣 AI 領(lǐng)域，ST已深耕十多年?！拔覀兿Ｍ吘堿I隨處可見，且證明未來AI將會(huì)隨處可見。”丁曉磊表示，根據(jù) ABI 市調(diào)機(jī)構(gòu)的數(shù)據(jù)，到 2030 年，邊緣端 TinyML MCU 市場的復(fù)合年增長率預(yù)計(jì)將達(dá)到113%。無論是在電源管理、電弧檢測、人臉目標(biāo)識(shí)別，還是異常檢測等應(yīng)用領(lǐng)域，這樣的增長率意味著越來越多的應(yīng)用案例將逐步被采用。

隨著越來越多的傳統(tǒng)嵌入式開發(fā)者進(jìn)入人工智能領(lǐng)域，ST正在擴(kuò)展其生態(tài)圈，提供更多工具和開發(fā)便利。這些開發(fā)者正越來越多地利用MCU來進(jìn)行邊緣端人工智能開發(fā)。

據(jù)統(tǒng)計(jì)，截至2024年第一季度，ST在全球有超過5萬名活躍客戶使用ST的邊緣AI 開發(fā)工具。同時(shí)，ST推出了ST Edge AI Suite邊緣人工智能開發(fā)套件，該套件涵蓋從創(chuàng)意構(gòu)思、數(shù)據(jù)采集、訓(xùn)練到模型優(yōu)化、部署和驗(yàn)證等完整的邊緣AI開發(fā)過程。ST 的全套開發(fā)工具為開發(fā)者提供了強(qiáng)有力的支持，幫助他們順利進(jìn)行開發(fā)。

此外，ST一直注重與人工智能領(lǐng)域諸如NVDIA和AWS的先行者深入合作，推動(dòng)行業(yè)的發(fā)展，最終目標(biāo)是讓邊緣AI隨處可見。