iT邦幫忙

鐵人檔案

2024 iThome 鐵人賽
回列表
AI/ ML & Data

NVIDIA邊緣運算探索:解鎖AI視覺與大模型的無限潛能 系列

本系列文章將深入探討NVIDIA邊緣運算設備在AI視覺與大模型應用方面的無限潛能,為讀者呈現一場技術與創新的饗宴。我們將從NVIDIA邊緣運算設備的基礎架構和核心技術出發,詳細解析其如何在邊緣端實現高效的資料處理和低延遲的推理能力。文章將聚焦於AI視覺技術,探討如何利用NVIDIA的邊緣運算設備進行影像辨識、目標偵測、視訊分析等任務,並實現精確度的提升與效率的飛躍。在大模型應用方面,本系列將揭示NVIDIA邊緣運算設備如何支援大規模深度學習模型的部署和運行,以及在資源受限的邊緣環境中如何最佳化模型效能和功耗。我們將透過實際案例和深度剖析,展示大模型在邊緣運算中的廣泛應用和潛在價值。

參賽天數 12 天 | 共 30 篇文章 | 3 人訂閱 訂閱系列文 RSS系列文
DAY 11

Jetson AI Lab實戰啟航4-SDW文生圖

透過 prompt 提示詞來生成圖片,一直是生成式 AI 中最受歡迎的應用,而 Stable Diffusion 演算法應該是這方面開源專案中的翹楚。事實上這個...

2024-08-22 ‧ 由 jambo0321 分享
DAY 12

從火災檢測到智慧監控:Jetson Orin與生成式AI的完美搭配

在智慧監控領域,NVIDIA Jetson Orin結合生成式AI正在開闢新的可能性。這篇文章將深入探討如何利用NVIDIA Metropolis微服務套件,通...

2024-08-23 ‧ 由 jambo0321 分享
DAY 12

### 使用 NVIDIA NIM 和 Microsoft Phi-3-Vision 進行高效 OCR 識別:從食品包裝到多領域應用的實踐指南

Phi-3-Vision-128K-Instruct 是一種輕量級、最先進的開放式多模態模型,它基於包括合成數據和經過篩選的公開網站在內的數據集構建,重點關注文...

2024-08-25 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航6-Ollama的Webui智慧助手

前面已經教會大家很輕鬆地使用 Ollama 搭建一個在指令終端的交互式智能助手,但這種操作模式畢竟比較粗糙,而且只能在一臺機器上使用,實用性並不高,如果能搭建一...

2024-08-25 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab 實戰啟航7-執行 RAG 功能的 Jetson Copilot

在前面的大語言模型測試過程,一定會發現這些智能助手都存在一些「胡言亂語」、「答非所問」之類的狀況,其實可以將它視為「不瞭解邊界」的小孩童一樣,因為所有人工智能模...

2024-08-26 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航8-多模態搜圖的NanoDB

這個項目是一個CUDA優化的多模態向量資料庫,使用CLIP vision Transformer中的嵌入模型進行txt2img和img2img相似性搜索,實現下...

2024-08-27 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航9-建立EffectiveViT測試環境

雖然DCNN深度卷積神經網路在2010年代為視覺AI技術開創新格局,但實用性受到很大的限制。後來受到NLP在Transformer技術的突破,對視覺技術產生非常...

2024-08-28 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航10-OWL-ViT應用

做過機器視覺模型訓練的人都知道,最耗時費力的階段,就是對圖片集進行標註的環節,這通常必須交由人力來進行,很難交給電腦去自動化標註,因此這個階段也是除了採購設備之...

2024-08-29 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航11-SAM2應用

圖像分割(segmentation)是一項基礎的計算機視覺任務,通過將每個像素分配給一個類別或對象,將數字圖像分割成多個部分。傳統上,分割包括三個主要任務:...

2024-08-31 ‧ 由 jambo0321 分享
DAY 12

Jetson AI Lab實戰啟航12-NanoLLM開發平台(1):Python API接口說明

我們在前面所介紹的各項應用,包括SAM、OWL-Vit、Text-Generation-Webui、stable-diffusion-webui等等,都是基於個...

2024-09-01 ‧ 由 jambo0321 分享