今天(2021/10/3)是星期日,本來想接著寫Edge Impulse雲端一站式tinyML開發平台的使用,碰巧最近剛好由Edge Impulse主辦了一場名為「Imagine 2021」的線上研討會,一連三天(2021/9/29-2021/10/1),邀請了各大廠商來分享關於tinyML最新的技術、應用及趨勢,其中也包括台灣研華科技(Advantech)和奇景光電(Himax),因此藉這機會和大家分享一下。此次三天的所有演講都有釋出到Youtube,有興趣的朋友可以花點時間挑自己想看的主題充電一下。
接下來就幫大家重要摘要一下此次由Arm機器學習群產品行銷副總Steve Roddy所分享的主題「The Future of Endpoint AI」(0:52:00處開始)。更完整的內容請自行參閱影片。以下說明有帶小括號()部份為個人補充說明,不一定和原演講內容相同。
註:以下內容僅供學習使用,並非直接翻譯,相關影片及簡報內容之版權皆為各公司所有,請勿移作他用。
(影片來源:Youtube, Edge Impulse, Imagine 2021: Innovation Keynotes)
Arm是一家矽智財(IP)提供公司,基於Arm IP出貨的晶片,在2020年就有超過237億顆(註:據報導2020年第四季Cortex-M系列MCU出貨量就有超過44億顆)。深度學習(或說人工智慧)自2012年AlexNet贏得ImageNet大賽後,從此展開人工智慧的新時代,開始有大量的模型(算法)、硬體設備(算力)被實現。機器學習/人工智慧已是主流技術,並已普遍佈署在雲端和邊緣裝置,包括馬達振動、物件偵測(含影像分類)、語音助理及人臉偵測/解鎖等應用。
那為什麼某些應用會從雲端轉移到邊緣呢?其中包含下列項目。
機器學習/人工智慧相關行業成長頗快,但部份仍處於早期階段,尚待發展改善。其主要包括下列三大部份。
由於不同應用所需算力不同,所以用更貼身的硬體來佈署機器學習是關鍵性作法。而這樣使用多種處理器組合的方式可更彈性應用及解決平行(或分散)運算問題,更可節省功耗。以下簡列幾個組合。
未來物聯網在終端上需具有極低功耗(< 1mW)運行機器學習的能力,靠電池就能運作一段時間,主要應用會在幾個領域。
為了讓人工智慧表現更好,深度學習神經網路有下列幾個趨勢。
但這樣的趨勢對於佈署在低功耗、低成本、低資源(程式碼及記憶體儲存空間)、低算力的終端設備是很有挑戰性的。Arm先前已有推出Cortex-M55(MCU) + Ethos U55(NPU)的組合IP,最近已有廠商將其實體化,即將上市。這樣的組合可解決前述問題,提供更容易整合及開發邊緣智能設備,同時具有更快響應、更小體積及更高精度的運行能力。初步測試若以Cortex-M7為基準(1x),則在推理速度上M55可提高到6倍,而M55+U55則可到50倍。就能耗表現M55也較M7高7倍,而M55+U55更可高達25到75倍。
端到端閉迴路的開發環境將會是擴展機器學習的關鍵,其步驟如下。
Arm除了積極提供各項開發環境外,更建立及加入許多開放式標準,減少開發者的麻煩。
Arm在軟體開發工具和機器學習亦有不錯的整合,開發者利用軟體開發套件(如Arm NN SDK, CMSIS-NN, Compute Library等)就能輕易的跨越自家硬體(CPU, GPU, NPU, xPU)。另外可支援標準開發框架(如TensorFlow Lite, TFLite Microcontroller, PyTorch, ONNX等),快速無縫整合開發者經驗。同時也提供或支援開放式模型優化工具,處理節點剪枝、權重聚類、數值量化及其它常用工具(如TensorFlow Model Optimization Toolkit(TF MOT),ARM Dev. Studio, Arm Keil MDK等)。
當然最後不免讓大家了解Arm的合作伙伴遍佈全世界,同時提供了許多免費開發資源、交流方式及完整生態系,相信未來在終端設備實現機器學習(智能化)是不可必免的趨勢。
ps. 以上僅個人一點小小整理及心得分享,並非原文直接翻譯,如有不同看法還請多多包涵。明天我們就接著講Edge Impulse雲端一站式tinyML開發平台帶給我們的驚喜。
參考連結
Edge Impulse - Imagine 2021 官方主網站
Edge Impulse - Imagine 2021 Youtube影片清單