iT邦幫忙

2022 iThome 鐵人賽

DAY 4
3

NVIDIA 早在 2007 年就開始布局嵌入式系統產品線,只不過當時聚焦在智慧型手機或是平板的應用上,可惜夾帶著 GPU 的盛名推出的 Tegra 系列系統晶片帶給當時市場的衝擊有限。後續在 2014 年推出的 TK1 才算正式聚焦在邊緣運算裝置,並以 Jetson 作為其邊緣裝置家族識別名稱。

NVIDIA Jetson 產品線 (source: NVIDIA)
NVIDIA Jetson 產品線 (source: NVIDIA)

邊緣運算的市場破壞者

2019 年三月 NVIDIA 在 GTC(GPU Technology Conference) 正式推出的 Jetson Nano Dev Kit 與 module,給了市場一個震撼彈,定價 99 美金即可購買到入門的邊緣運算裝置,在此之前最親民的 TX2 開發套件定價可是在19,990台幣(具學生身分可申請5折優惠購買)。不同於 Intel 的 x86 平台,NVIDIA Tegra 的 ARM 架構即便效能比不上 x86 ,但卻有功耗上的優勢,整合GPU CUDA 的推論特性,在移動載具上的攻城略地,這也成為了 Jetson 家族的首要目標。挾帶著價格上的優勢也一併催生了 JetbotDockietown 等社群專案與線上 DLI(Deep Learning Institute) 課程,瞬間在社群、教育單位、開發者間大量的發酵,也見證了老黃想攻占邊緣運算市場的決心!

JetPack SDK & Jetson Software

JetPack SDK 是對應 Jetson 嵌入式家族的軟體開發套件,裡面包含 Linux for Tegra (L4T)、TensorRT(DL 加速工具)、CUDA(GPU平行運算API)、OpenCV等眾多重要工具,提供開發者在 Tegra 這 ARM 架構整合 GPU 的平台上,所有開發所需要的軟體資源。除此之外還有 DeepStream 用來做即時影像推論、ISAAC 作為機器人的開發平台等上層軟體,以及 NVIDIA TAO 便利於轉換深度模型與提升效能(是的,就是跟 Intel 的 OpenVINO 戶別苗頭)。縱然 ARM 平台的邊緣裝置開發不如 X86 平台來得得天獨厚, NVIDIA 也是傾盡全力產出各類功能優異的工具,為的也是搶奪 Edge AI 這塊兵家之地。

NVIDIA Jetson Software (source: NVIDIA)
NVIDIA Jetson Software (source: NVIDIA)

優劣勢短評

NVIDIA Jetson 系列產品線已趨近完整,不管入門、中階到高階都有對應的運算模組,並且在 Entry Level 的價格非常具有競爭力,而廣受到教學單位與中小型開發團隊的青睞,同時在社群營造與專案發展也都相當豐富。而 ARM 架構的 SoC 可以有效控制功耗,同時 DIMM 介面的運算模組也容易讓製造商整合到既有產品中。

劣勢的部分則是在第三方的合作產商所銷售的產品選擇性較少,並且在 2020 年因為疫情干擾與挖礦風潮造成整個產品線供需失衡,因嚴重缺貨造成二手商品與稀少庫存漫天喊價,讓真的有心開發Edge AI 的團隊受到不少影響。

優勢

  • 入門硬體價格親民
  • 社群專案討論度高
  • 訓練到佈署統一硬體
  • 低功耗模組易於整合

劣勢

  • 生態系尚未成熟穩定
  • 供應端斷鍊疑慮

上一篇
【Day 03】Edge AI 生態系-Intel
下一篇
【Day 05】Edge AI 生態系-Raspberry Pi
系列文
就用 Jetson Nano 來實作 Edge AI 吧!30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

1 則留言

0
andow1198
iT邦新手 4 級 ‧ 2023-01-17 16:32:18

請問F大,最後提到的生態系尚未成熟穩定,是指供應問題嗎?還是產品選擇性較少?

Felix Lin iT邦新手 5 級 ‧ 2023-01-18 11:04:33 檢舉

Hi andow1198,

兩者皆是喔!目前 NVIDIA 嵌入式產品在市場上能選擇的第三方製造商並不多,而供應問題今年(2023)已經有緩解不少。

可以從 NVIDIA Jetson Partner Hardware Products 裡面去查找合適的硬體設備。 或是入門者還是可以從 Jetson Nano Dev Kit 先入手。

andow1198 iT邦新手 4 級 ‧ 2023-01-18 13:45:45 檢舉

謝謝F大解惑,我了解了。

我要留言

立即登入留言