就在筆者落筆時，老黃剛好在 GTC 大會上發布了新世代的入門級邊緣運算模組－Jetson Orin Nano！這帶來什麼樣的優勢與影響呢？就讓筆者先插播一下這訊息，咱們一起吃瓜看好戲吧！

新一代的邊緣運算模組－ Jetson Orin Nano (source: NVIDIA)

新世代 Jetson Orin 系列

新世代的 Jetson Orin 邊緣運算家族除了日前已經發表的高階 Orin AGX（已上市）與中階 Orin NX（2022 十二月上市）之外，就在 9/20 日的 GTC keynote 中，老黃發布了入門 Orin Nano 即將於 2023 一月上市！盤點幾個重點硬體特色：

• AI 效能提高為 20 FLOPS (Dense)。（原 Jetson Nano 為 0.5 TFLOPS (Dense) ）
• GPU 核心提高為 Ampere 1024 CUDA （原 Jetson Nano 為 Maxwell 128 CUDA）
• USB 提高為 USB3.2 x 3 （原 Jetson Nano 為 3.0 x 1）
• PCIe 通道提高到 7 通道 Gen3，扣除 SSD 使用 4 通道，還有 3 通道彈性使用。
• 增加了一個 CAN 介面，方便連結車載系統。
• 和 Orin NX 一樣，不再內建 eMMC，需外接 NVMe 使用 。
• 功耗提高到 7W/15W （4GB 版本維持 5W/10W），支援 5-20V 輸入。
• 相同 SO-DIMM 260pins 介面，尺寸大小與 Jetson Nano, Xavier NX, Orin NX 相同

Jetson Orin Nano 硬體方塊圖 (source: NVIDIA)

4GB & 8GB 兩種規格

所發表的 Jetson Orin Nano 一共有兩種規格，分別為 4GB 與 8GB 版本，4GB RAM 版本 DDR 匯流排寬度為 64-bit，8GB RAM 版本匯流排寬度為 128-bit。不僅是只有記憶體不同，GPU 核心雖然同為 Ampere 架構，但 CUDA 核心分別為 512 與 1024，直接影響的就是 AI 運算能力與功耗。而 1K pcs 的批量價格分別為 USD 199 與 USD 299，相較於 Jetson Nano USD 99 只能說效能就是金錢堆砌起來的啊！其餘詳細規格如下圖：

Jetson Orin Nano 規格表 (source: NVIDIA)

顯著的效能提升

從 NVIDIA 官方給出的 benchmark 比較表可以看出，光是 Orin Nano 4GB 的各模型 AI 推論效能平均就是現行 Nano 的 10 倍以上，並且估計在之後新版本 JetPack SDK 推出後，經過最佳化的模型還可以有約莫 1.5 倍的效能提升，著實相當驚人！

Benchmark with Jetson Orin Nano (source: NVIDIA)

會影響我正在使用的 Jetson Nano 嗎？

不影響！

不少開發者看到新聞稿第一個疑問可能就是「現行使用的 Jetson Nano 會不會受到影響」？根據 NVIDIA Jetson Roadmap 看來 Jetson Nano 會持續生產到 2025，效能上雖遠不足 Orin Nano，但在比較競爭的應用場域中 Jetson Nano 仍然有價格優勢。

Jetson modules Roadmap (source: NVIDIA)

需要升級到新平台嗎？

不需要，除非…
Jetson 家族的優良傳統就是轉換容易，不單單是軟體方面相容性高，硬體方面使用 SO-DIMM 260 pin 金手指的模組就涵蓋 Jetson Nano, Xavier NX, Orin NX, 與 Orin Nano，只有Carrier Board 底板設計時有考量，要轉換都可以在短時間內完成。即便如此，目前筆者認為入門學習使用 Jetson Nano 還是最好的選擇，新的 Orin Nano 效能雖然更好，但是售價也是提高不少，對於新手開發者來說也是不小的負擔。倘若有以下幾點情況，筆者才會建議改用 Orin Nano：

• 運算能力在經過最佳化後仍不足負荷
• 需要新版本的 JetPack SDK 軟體支援
• 需要使用 CAN 介面或多個 PCIe 介面
• 口袋有閒錢（誤

小結

大家應該都玩過遊戲，離開新手村時一定都是初階 CP 值最高的裝備，而陸陸續續直到遇到的敵人越來越強大不堪負荷時，才會更換裝備讓自己更上一層樓。學習 Edge AI 也是同樣概念，不求好只求堪用，當然有人喜歡 Level 1 就課金讓裝備直接峰頂的話就另當別論了！XD

Reference

1. Solving Entry-Level Edge AI Challenges with NVIDIA Jetson Orin Nano
2. Jetson Roadmap
3. Jetson Orin Nano Series Module Data Sheet
4. Jetson Orin Nano Series, Jetson Orin NX Series, and Jetson Xavier NX Series
   Interface Comparison & Migration Application Note
5. Jetson Orin Nano Series, Jetson Nano, & Jetson TX2 NX Interface Comparison & Migration Application Note