DeepStream是NVIDIA的一個AI串流應用SDK,官方釋出了不少看起來很厲害的範例,結果實際使用發現範例的侷限性很大,甚至有些範例還執行不起來,需求一複雜起來就超出範圍了。希望透過這個系列的文章深入認識SDK內的細節,去了解那些範例沒告訴你的事情,最終目標是寫出自己的GStreamer元件搭配SDK做出更彈性的應用。
序章 在同事的鼓勵下,這是我第一次參加鐵人賽,想說自己對於分享軟體知識也是挺有熱忱的,就給自己來一點挑戰。 當初我會接觸到DeepStream是因為這是我跨足A...
兩者錯綜複雜的關係 首先,我們先釐清一件事情,GStreamer可以看做是一個框架,而DeepStream其實可以當作一個程式庫,不過他將這個程式庫整合為GSt...
建立DeepStream的開發環境 由於DeepStream是一個獨立的SDK,如果你要在本機上安裝就得先安裝大量的依賴程式庫。但大家都知道依賴程式庫是很複雜的...
認識工具gst-inspect-1.0 我認為比起一上來就執行範例,先認識GStreamer的工具是必要的,先透過這些工具我們可以先釐清DeepStream的關...
昨天我們介紹了gst-inspect-1.0這個工具,今天就要教大家怎麼把元件串起來 gst-launch-1.0作用 像是ffmpeg、curl這些非常有名的...
昨天我們已經開始在串流應用中使用了GPU的硬體資源,那今天就要正式進入DeepStream的核心,那就是影像模型。首先我們要知道DeepStream設計的目的就...
思考一下從單路到多路串流 複製串流模組 單路串流相對單純,我們只要解碼串流、推論、渲染及上傳結果。可是到多路的時候,如果我們單純建立多個串流模組並且獨立運作,理...
今天要來介紹DeepStream中第一個跟模型相關的元件nvinfer,nvinfer是使用NVIDIA的推論框架TensorRT來完成最終的推論工作,元件會讀...
原本這部分是打算跟著昨天的nvinfer一起介紹的,但寫完文章發現內容實在太多了,於是決定單獨拆成一天來跟大家介紹囉。 TensorRT的CLI工具trtexe...
前面介紹的nvinfer是用本地模型推論,而今天要介紹的nvinferserver則是使用Triton Inference Server(後續簡稱Triton...