EdgeAI 介紹

延續昨天的文章，今天來比較詳細的說明究竟相比於現在大家熟知的 AI，EdgeAI 到底有什麼優勢以及挑戰。
首先先定義一下 "EdgeAI" 到底是什麼，相信有在關注科技趨勢的人應該多少有聽到不少詞彙，例如：邊緣運算、TinyML 等...相比於現今大多都把 AI 放在雲端進行資料的處理（如 ChatGPT 以及其相關應用），EdgeAI 就是要讓原本都需要放到雲端的這些功能卸載到本地端，也就是邊緣進行。

那究竟這樣做有什麼好處呢？

• 降低延遲以及即時性：
  因為是在本地進行運算，因此 EdgeAI 可以降低原先因為網路帶來的延遲以及不確定性，而這個特徵也十分適合汽車或工業化等需求比較嚴格的應用。
• 隱私以及資安
  因為是在本地進行運算，並不存在將資料送去雲端的過程，因此也能大大提高自身資料的隱私以及安全性，減少資安風險。
• 減少雲端負載及增加能源效率
  若是資料能夠在本地端預先處理完成，則可以大大減低送去雲端計算的成本，包含整體的能源消耗，為原先吃緊的雲端運算資源進行資源卸載的工作。

看來 EdgeAI 是個特別優秀的解決方案，但是實際上邊緣運算又會有以下的挑戰與限制：

• 有限的運算資源以及記憶體資源
• 有限的能源消耗
• 是否真的能達到低延遲且高精準的推理結果

首先要先釐清的事情是，這邊的邊緣運算，目前先注重在“把預先訓練好的模型放到邊緣進行推理”，也就是發生在邊緣的事情只有推理，暫時並沒有討論 On-device training 的部分，原因也正是因為上面的對於邊緣的運算限制。

而在這次的 Side project 裡，要挑戰的便是如何透過 Model 上的優化、對於晶片上各類資源的使用優化 來達到將原先複雜的 ML 運算部署至 MCU 上執行。

嗯？你說這些優化是什麼？咱們先賣個關子，且聽下回分解（絕對不是我還沒準備好）

本文系列內容介紹（大概？

小聲地說...實際上這個系列文章都是處於一個打帶跑的文章，因此我也不太確定中間會不會出現任何變因...甚至是否有機會在30天更新完也是一個大哉問XD
總之，以下是我目前規劃的內文進度：

• Week 1:
  大致介紹包含 EdgeAI 是如何運作的，以及介紹接下來會使用的平台操作和內容。
• Week 2:
  先部署一個 AI model 例子放到 MCU 中執行，來看看中間會遇到哪些麻煩。
• Week 3:
  開始透過資料搜集以及建立 model 來真正的 build 出自己的 Application。
• Week 4:
  部署自己的 Model 以及進行各種優化手段來取得最佳的結果

大致上會是以上的內容，而實際上我要嘗試的應用已經大致上確定了，會使用意法半導體(ST)的開發板來製作一個 Keyword spotting 的小應用。
而接下來這週的文章，將會圍繞在介紹究竟為什麼我會選擇 ST 作為開發的平台，他在邊緣運算的浪潮下會有什麼樣的優勢。

那我們，明天再見～