iT邦幫忙

2021 iThome 鐵人賽

DAY 2
3
Arm Platforms

爭什麼,把AI和MCU摻在一起做tinyML就對了!系列 第 2

[Day 02] 什麼是tinyML?

tinyML」就字面上意思就是微小的機器學習(Tiny Machine Learning, tinyML),但它又和人工智慧(Artificial Intelligence, AI)及微控制器單元(Micro-Controller Unit, MCU)(又稱單晶片)有什麼關連呢?

首先說明幾個常見的名詞定義及主要差異。

  • 【人工智慧(Artificial Intelligence, AI)】:又稱人工智能,泛指能產生類似人類思考、判斷結果的人為程式、算法。其中最常見的應用包含電腦視覺(Computer Vision, CV)、自然語言處理及理解(Natural Language Processing / Understanding, NLP / NLU)及數據分析/挖礦(Data Analysis / Mining)幾大領域。
  • 【機器學習(Machine Learning, ML)】:為人工智慧下的一部份,泛指透過數學統計進而模仿人類學習數據中的規則,進而推論未知數據的結果。常見的分類有監督式(Supervised)、非監督式(Unsupervised)及增強式(Reinforcement)學習,其主要功能為分類、迴歸及聚類。
  • 【深度學習(Deep Learning, DL)】:為機器學習下的一個分支,類神經網路(Neural Network, NN),它可透過更深及更寬的網路層及巨大量參數(權重)來學習各種影像、聲音及數據特徵,進而達到和人類似的學習、辨識及推論能力,為近年來當紅技術。由於其能力顯著,因此當許多非專業人士提及「人工智慧」時,通常指的就是「深度學習」技術,而非原始名詞定義。

人工智慧、機器學習、深度學習
Fig. 2-1 人工智慧、機器學習、深度學習 (OmniXRI整理繪製,2018/5/24)

通常來說「機器學習」能處理的特徵數量及數學模型通常不會太複雜,因此所需的計算量也不會太大。但「深度學習」就反其道而行,越複雜的模型及越巨量的參數就能令推論準確率得到更好的提升,因此需要極高性能的運算設備來輔助訓練和推論的計算。所以如果要將AI應用放到運算能力很低、記憶體很少的MCU上時,就只選擇較微型的AI應用(如智慧感測器等)或者較小型的機器學習算法甚至超微型的深度學習模型來推論,因此「tinyML」需求因運而生。

基於上述AI微型化理念,許多CPU, GPU, MCU, AI加速計算晶片大廠、AI開發工具及應用廠商紛紛響應,於2019年成立微型機器學習基金會(tinyML Foundation) ,每年定期會舉辦高峰會,讓廠商、學界、社群都能共襄盛舉。2021高峰會有近六十個贊助商,其中台灣也有四家,分別是奇景光電(Himax)、裝智(On-Device AI)、原相(PixArt)及威盛(VIA)。

tinyML基金會2021贊助商清單
Fig. 2-2 tinyML基金會2021贊助商清單 (OmniXRI整理繪製,2021/8/14)

根據該基金會對tinyML的定義:「**微型機器學習(tinyML)**為一個快速發展的機器學習技術和應用領域,包括硬體、算法和應用軟體。其能夠以極低功耗執行設備上的感測器(Sensor)的數據分析,通常在mW(毫瓦特)以下範圍,進而實現各種永遠上線(或稱常時啟動)(Always On)的應用例及使用電池供電的設備。」這裡的ML雖然指的是「機器學習」,不過亦可延伸解釋到「深度學習」甚至「人工智慧」、「邊緣智能」等名詞。從上述定義可得知tinyML 幾乎是鎖定MCU及低階CPU所推動的Edge AI。

目前tinyML基金會並沒有明確的定義那些項目才算是其範圍,也沒有制定特定的開發框架及函式庫(如機器人作業系統ROS),而是開放給硬體及開發平台供應商自行解釋及彼此合作。目前較常見的應用,包括振動偵測、手勢(運動感測器)偵測、感測器融合、關鍵字偵測(聲音段分類)、(時序訊號)異常偵測、影像分類、(影像)物件偵測 等應用,而所需算力也依序遞增。一般來說,以Arm Cortex-M系列為例,智慧感測器(如聲音、振動、溫濕度等)大約Arm Cortex-M0+, M3左右就能滿足,而智慧影像感測器(小尺寸影像)要完成影像分類及物件偵測工作,則需要Cortex-M4, M7甚至要到Cortex-A, R系列。

Arm MCU等級晶片智慧運算能力與適用情境
Fig. 2-3 Arm MCU等級晶片智慧運算能力與適用情境 (OmniXRI整理繪製,2021/8/14)

參考連結:

tinyML基金會 https://www.tinyml.org/


上一篇
[Day 01] 在享受tinyML這道美食之前
下一篇
[Day 03] tinyML開發板介紹
系列文
爭什麼,把AI和MCU摻在一起做tinyML就對了!30

尚未有邦友留言

立即登入留言