AIoT 介紹

AIoT 由來就是 人工智慧(AI) + 物聯網(IoT)的組合。隨著人工智慧（AI）技術的更多突破，物聯網（IoT）萬物相聯的蓬勃發展，兩者也匯流進化成 AIoT，正驅動「智慧應用」。

AI 類型

AI 現在主要有兩種形態 – 雲端人工智慧（Cloud AI）和終端人工智慧（Edge AI）。像是我們上一篇的介紹語音是屬於『雲端人工智慧』的一種因為使用者透過裝置將語音資料送到雲端，雲湍透過 AI 應用在想資料經過 AI 處理將結果發送到裝置。

雲端人工智慧（Cloud AI）

大部分 AI 應用都是在雲端開發的。雲端的優勢是計算能力很強、運算速度很快，這是終端無法比擬的，在 2014 年時，若把一張照片丟到雲端再回來，網路延遲大概是 250 ～ 1250 毫秒（ms）；當時若在終端運算，需要耗時 3 秒鐘，這種速度當然是無法被接受的。

以 Google 為例，AI 正逐漸改變我們的生活、促使各行各業轉型。Google 認為 AI 將大幅改善人們的工作方式與效能，因此 2017 年起以 AI-First 做為企業願景，取代原本的 Mobile First。Chris Jang 指出，為了讓企業、開發者和一般民眾，能更容易也更快速運用 AI，實現人工智慧大眾化（Democratize AI），Google 雲端人工智慧（Google Cloud AI）將以運算、演算法、數據、人才等四大重點推廣 Cloud AI 應用。

終端人工智慧（Edge AI）

從 2012 年深度學習開始到 2016 年、2017 年，大部分 AI 應用是在雲端開發的。
終端人工智慧有些特點：

1. 反應速度更快: 如果把人工智慧計算放到雲端，需要設備把數據全部傳輸到雲端，等雲端處理完畢之後，再將訊息傳輸回來，然後終端再做出反饋。這一來一回的傳輸過程必將導致延時。如果終端設備本身就能進行人工智慧運算，就可以即時對數據進行處理，並做出反饋，省去了數據在本地與雲端來回傳遞的過程，反應速度自然要比雲端快得多。比如在自動駕駛場景下，需要零點零幾秒的反應速度，如果等到訊息從雲端傳回來，估計早就車毀人亡了。
2. 利於隱私保護: 依照一些情境來說明，如果今天人臉辨識在終端設備執行只會回傳辨識結果並不會回傳人臉的照片，這樣是不是降低很隱私資料的隱憂？
3. 連接體驗更好: 如果把大量資料傳到雲端，這將會對網絡頻寬有非常高的需求，不但增加使用者對網絡頻寬成本的支出，也將增加雲端服務提供商對於網絡頻寬成本的支出。像是人臉辨識傳送幾張圖片與結果幾個文字是很大的差異的！
4. 利於降低功耗(成本費用): 大量的數據從終端傳到雲端，然後終端再接收從雲端傳回的信息，這個過程將會提升系統的功耗成本！

AIoT 開發應用硬體介紹

Raspberry Pi 4

特點價位低方便好入手！支援多種應用藍芽 5 Wifi 等等，做人臉辨識是等不需要高即時運算效果可以適用。

Raspberry Pi 4 Model B 規格：

• 1.5GHz 64-bit quad-core ARM Cortex-A72 CPU (Broadcom 2711)
• 4GB RAM (LPDDR4 SDRAM) – also available in 1GB and 2GB versions!
• On-board wireless LAN – dual-band 802.11 b/g/n/ac
• On-board Bluetooth 5.0 HS low-energy (BLE)
• 2 x USB 2.0 ports
• 2 x USB 3.0 ports
• True Gigabit Ethernet
• Extended 40-pin GPIO header
• 2x micro HDMI, 4k video
• 4 Pole stereo output and composite video port
• MIPI Camera port (CSI)
• MIPI Display port (DSI)
• microSD format for loading OS & data storage
• 5V/3A DC via USB type C connector
• 5V DC via GPIO
• PoE Enabled
• Multimedia H.265 decode (4kp60), H.254 decode (1080p60), H.254 encode (1080p30), OpenGL ES 1.1, 2.0, 3.0 graphics

Raspberry Pi 4

Google Coral USB Accelerator

可以於剛剛介紹的 Raspberry Pi 4 做搭配！Google Coral USB Accelerator 可以馬上讓您的 Linux 系統具有高速的人工智慧。例如，執行最先進的深度學習模型 MobileNet v2 可達到 100+ FPS。
相較於 Intel Movidius 神經運算棒，Google Coral USB Accelerator 支援 USB 3.0，整體設計也較為輕便。

支援多項 TensorFlow Lite 模型，包括 MobileNet V1/V2，MobileNet SSD V1/V2，還有 Inception 等，然後編譯為在 USB 加速器上執行。
特色：

• 使用 Google Edge TPU ML 加速器。
• 使用 USB 3.0 Type-C 界面。可以與電腦搭配不限制主機規格。
• 支援 Debian Linux(包括 Raspberry Pi)。
• 支援 TensorFlow lite。

Google Coral USB Accelerator

NVIDIA® Jetson Nano™ 開發套件 Developer Kit

輝達 NVIDIA® Jetson Nano™ 開發套件，因為輝達在人工 AI 深耕很多應用其中 CUDA 因該說是應用核心，很多程式庫與套件的廣泛支援！這塊板一期低廉價位就可以讓開發人員體驗非常即時的效果！

技術規格:

• GPU NVIDIA Maxwell™ 架構配備 128 個 NVIDIA CUDA® 核心
• CPU 四核心 ARM® Cortex®-A57 MPCore 處理器
• 記憶體 4 GB 64-bit LPDDR4
• 儲存空間 16 GB eMMC 5.1 快閃記憶體
• 影片編碼 4K @ 30 (H.264/H.265)
• 影片解碼 4K @ 60 (H.264/H.265)
• 相機 12 個通道 (3×4 或 4×2) MIPI CSI-2 DPHY 1.1 (1.5 Gbps)
• 連線能力 Gigabit 乙太網路
• 顯示器 HDMI 2.0 或 DP1.2 | eDP 1.4 | DSI (1×2) 2 個同步
• UPHY 1 個 1/2/4 PCIE、1 個 USB 3.0、3 個 USB 2.0
• I/O 1 個 SDIO / 2 個 SPI / 6 個 I2C / 2 個 I2S / GPIO
• 大小 69.6 mm x 45 mm
• 機械規格 260-pin 邊緣接頭

NVIDIA® Jetson Nano™

結語

今天介紹 AIoT，不知道大家是否有概念了？如果真的要玩個人推薦 『NVIDIA® Jetson Nano™』因為這塊板可以玩到幾乎全部AI應用的軟體架構，支援度最廣費用也不會太高。

Blog 同步刊登