iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
Software Development

深入認識DeepStream,不只是停在執行範例 系列

DeepStream是NVIDIA的一個AI串流應用SDK,官方釋出了不少看起來很厲害的範例,結果實際使用發現範例的侷限性很大,甚至有些範例還執行不起來,需求一複雜起來就超出範圍了。希望透過這個系列的文章深入認識SDK內的細節,去了解那些範例沒告訴你的事情,最終目標是寫出自己的GStreamer元件搭配SDK做出更彈性的應用。

參賽天數 22 天 | 共 22 篇文章 | 2 人訂閱 訂閱系列文 RSS系列文
DAY 1

[Day 01] 簡單聊聊什麼是DeepStream

序章 在同事的鼓勵下,這是我第一次參加鐵人賽,想說自己對於分享軟體知識也是挺有熱忱的,就給自己來一點挑戰。 當初我會接觸到DeepStream是因為這是我跨足A...

2026-09-11 ‧ 由 justin94_yu 分享
DAY 2

[Day 02] 比起DeepStream,你應該先認識GStreamer

兩者錯綜複雜的關係 首先,我們先釐清一件事情,GStreamer可以看做是一個框架,而DeepStream其實可以當作一個程式庫,不過他將這個程式庫整合為GSt...

2026-09-12 ‧ 由 justin94_yu 分享
DAY 3

[Day 03] 建立DeepStream的開發環境

建立DeepStream的開發環境 由於DeepStream是一個獨立的SDK,如果你要在本機上安裝就得先安裝大量的依賴程式庫。但大家都知道依賴程式庫是很複雜的...

2026-09-13 ‧ 由 justin94_yu 分享
DAY 4

[Day 04] 認識工具`gst-inspect-1.0`

認識工具gst-inspect-1.0 我認為比起一上來就執行範例,先認識GStreamer的工具是必要的,先透過這些工具我們可以先釐清DeepStream的關...

2026-09-14 ‧ 由 justin94_yu 分享
DAY 5

[Day 05] 認識工具 gst-launch-1.0

昨天我們介紹了gst-inspect-1.0這個工具,今天就要教大家怎麼把元件串起來 gst-launch-1.0作用 像是ffmpeg、curl這些非常有名的...

2026-09-15 ‧ 由 justin94_yu 分享
DAY 6

[Day 06] 讓我們的串流加入影像模型

昨天我們已經開始在串流應用中使用了GPU的硬體資源,那今天就要正式進入DeepStream的核心,那就是影像模型。首先我們要知道DeepStream設計的目的就...

2026-09-16 ‧ 由 justin94_yu 分享
DAY 7

[Day 07] 多路串流的功臣nvstreammux

思考一下從單路到多路串流 複製串流模組 單路串流相對單純,我們只要解碼串流、推論、渲染及上傳結果。可是到多路的時候,如果我們單純建立多個串流模組並且獨立運作,理...

2026-09-17 ‧ 由 justin94_yu 分享
DAY 8

[Day 08] 推論元件nvinfer

今天要來介紹DeepStream中第一個跟模型相關的元件nvinfer,nvinfer是使用NVIDIA的推論框架TensorRT來完成最終的推論工作,元件會讀...

2026-09-18 ‧ 由 justin94_yu 分享
DAY 9

[Day 09] TensorRT模型小幫手trtexec

原本這部分是打算跟著昨天的nvinfer一起介紹的,但寫完文章發現內容實在太多了,於是決定單獨拆成一天來跟大家介紹囉。 TensorRT的CLI工具trtexe...

2026-09-19 ‧ 由 justin94_yu 分享
DAY 10

[Day 10] 讓推論服務化nvinferserver

前面介紹的nvinfer是用本地模型推論,而今天要介紹的nvinferserver則是使用Triton Inference Server(後續簡稱Triton...

2026-09-20 ‧ 由 justin94_yu 分享