iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
AI/ ML & Data

NVIDIA邊緣運算探索:解鎖AI視覺與大模型的無限潛能 系列

本系列文章將深入探討NVIDIA邊緣運算設備在AI視覺與大模型應用方面的無限潛能,為讀者呈現一場技術與創新的饗宴。我們將從NVIDIA邊緣運算設備的基礎架構和核心技術出發,詳細解析其如何在邊緣端實現高效的資料處理和低延遲的推理能力。文章將聚焦於AI視覺技術,探討如何利用NVIDIA的邊緣運算設備進行影像辨識、目標偵測、視訊分析等任務,並實現精確度的提升與效率的飛躍。在大模型應用方面,本系列將揭示NVIDIA邊緣運算設備如何支援大規模深度學習模型的部署和運行,以及在資源受限的邊緣環境中如何最佳化模型效能和功耗。我們將透過實際案例和深度剖析,展示大模型在邊緣運算中的廣泛應用和潛在價值。

參賽天數 12 天 | 共 30 篇文章 | 4 人訂閱 訂閱系列文 RSS系列文
DAY 1

多領域賦能,邊緣運算引領行業智慧化轉型

邊緣運算概述 邊緣運算,簡而言之,是在數據產生的源頭或附近進行數據處理的技術。其核心優勢在於實現數據的在地化處理,從而顯著降低延遲並減少頻寬需求。相較於雲端運算...

2024-08-12 ‧ 由 jambo0321 分享
DAY 2

為什麼我選擇NVIDIA Jetson作為邊緣開發設備

上一篇,我主要整理了邊緣計算以及人工智慧對未來科技發展的重要性。這一篇我要開始講述我個人在邊緣計算道路上的旅程,以及分享一些經驗,希望對有著與我同樣興趣的開發者...

2024-08-13 ‧ 由 jambo0321 分享
DAY 3

如何選擇一款適合的NVIDIA Jetson開發套件

上文介紹了我是如何在NVIDIA Jetson Nano開發套件上開始我的邊緣人工智慧開發之旅。事實上,因為我爸爸工作的關係,NVIDIA每出一款Jetson開...

2024-08-14 ‧ 由 jambo0321 分享
DAY 4

我主要使用的設備:Jetson Orin NANO開發套件開箱

由於接下來的文章,我們都會以Jetson Orin NANO開發套件或者Jetson AGX Orin開發套件作為邊緣運算設備,所以我會介紹一下使用的設備情況。...

2024-08-15 ‧ 由 jambo0321 分享
DAY 5

如何在NVIDIA Jetson Orin NANO上把系統刷到SSD上?

對於AI計算性能高達40TOPS的Jetson Orin Nano開發套件來說,如果缺少性能良好的存儲相匹配,會讓整體執行效益大打折扣。為此,NVIDIA在Je...

2024-08-16 ‧ 由 jambo0321 分享
DAY 6

Jetson開發者必裝的一個實用工具

當你在Jetson邊緣設備上開發,想知道CPU和GPU的使用率,想知道現在功耗是多少,或者想知道運行溫度是多少,那麼這個工具就非常重要了! jetson_st...

2024-08-17 ‧ 由 jambo0321 分享
DAY 7

我主要的使用設備:NVIDIA Jetson AGX Orin開發套件開箱

為什麼需要Jetson AGX Orin? 機器人技術的新時代正在出現,需要數量級的更高計算機器人現在正在進入人類世界,而不是孤立地工作,這需要多感測器感知、映...

2024-08-18 ‧ 由 jambo0321 分享
DAY 8

Jetson AI Lab實戰啟航:寫在最前面

這兩年AI應用,已經從傳統機器視覺領域,擴展到大語言模型甚至多模態組合的智能應用,從原本單一智能模型的內容生成或推理,提升到多智能體(multi-agents)...

2024-08-19 ‧ 由 jambo0321 分享
DAY 9

Jetson AI Lab實戰啟航:環境配置

由NVIDIA資深工程師Dustin Franklin為Jetson設備所搭建的jetson-container開發環境,以Docker容器為基礎去提供各種所需...

2024-08-20 ‧ 由 jambo0321 分享
DAY 10

Jetson AI Lab實戰啟航3-TGW智能助手

TGW是Text-Generation-Webui專案的縮寫,這是2023年隨著ChatGPT的火爆浪潮中,讓我們能搭配開源LLM模型,在本地建置可對話智能助手...

2024-08-21 ‧ 由 jambo0321 分享