前兩天,我一直在談 Customer Problem。
但真正開始做 Edge AI PoC 時,我才發現:
知道要解決什麼問題,只是第一步。
因為現實世界的AI PM,不一定有充足的資源, 另外我有從人工智慧畢業的Domain Know How。
這次的情況其實很簡單:
沒有 GPU Server。
沒有一大群 AI Engineer。
手上只有一位工程師,加上我這個 AI PM。
還有一片:
Qualcomm QCS6490。
就這樣。
但副總還是希望我們:
「做一個 Edge AI PoC 出來。」
那問題來了。
兩個人,到底能做什麼?
一開始其實很容易陷入一個陷阱。
既然是 Edge AI,那是不是應該:
聽起來都很好。
但我很快發現:
資源根本不允許我們這樣做。
沒有 GPU,代表我們不適合從頭訓練 Model。
只有一位工程師,也不可能同時開發完整的 AI Framework、Video Pipeline、Application 和 Backend。
所以這時候,AI PM 不能再問:
「我們想做什麼?」
而應該改問:
「以我現在手上的資源,什麼是最有機會讓我可以成功的?」
我把現況很簡單地整理成:
| 項目 | 規劃 |
|---|---|
| Team Size | 1 Engineer + 1 PM |
| Hardware Platform | Qualcomm QCS6490 |
| AI Model Strategy | 優先採用 Pre-trained Model,避免從零訓練 |
| AI Framework | Qualcomm AI Hub、ONNX Runtime、TensorFlow Lite |
| Computing Resource | 主要依賴 Edge Device 內建 NPU |
| Data Processing | Edge 端即時推論,減少雲端依賴 |
| Connectivity | SCADA / WebAccess / MQTT / OPC UA |
| Deployment | Docker Container 或 Native Application |
| Target Use Case | 設備異常偵測、預知保養、品質檢測 |
| Development Effort | PoC 約 1~3 個月 |
| Cloud Dependency | 僅用於模型更新與資料收集 |
| Expected Performance | 秒級推論、低延遲、離線可運行 |
不是做完整產品,而是做出一個可以驗證產品價值的 PoC。
這個「Goal」非常重要。
因為如果目標是 Product,兩個人當然不夠。
但如果目標是:
用最少資源驗證一個有商業價值的 AI Use Case。
事情就完全不一樣了。
我沒有先決定:
「我要做安全帽辨識。」
而是先看:
我們現有的 Pre-trained Model 能做到什麼?
這時候我們發現一個很現實的問題。
如果我們沒有足夠 GPU 資源自己訓練模型,那麼最合理的策略就是:
先使用現成的 Pre-trained Model。
可是 Pre-trained Model 也會反過來限制我們的 Use Case。
例如模型可以穩定做到:
Person Detection
但這不代表它可以直接做到:
因為這些通常需要更多資料、模型調整甚至重新訓練。
而我們現在沒有這個資源。
無人場域。
為什麼?
因為這個場景剛好非常適合我們現有的能力。
我們不需要重新訓練一個很複雜的模型。
只要:
Pre-trained Person and Helmet Detection
再加上:
Rule / Geofence / Event
就可以形成一個完整的 Use Case。
例如:
平常這個區域應該沒有人。
所以我們可以定義:
Person Detected in Restricted Area → Intrusion Event
再進一步:
Intrusion Event → Alert → Recording
這時候我突然發現:
我們不是因為資源不足,只能做一個很小的 Demo。
反而是因為資源有限,我們被迫找到一個:
模型能力、硬體能力、人力資源與商業情境都能對上的 Use Case。
如果今天有:
10 個 AI Engineer
5 台 GPU Server
大量 Training Data
我們可能會從「客戶想要什麼」開始往下做。
但當你只有:
1 Engineer + 1 PM + 1 Edge AI Board
你的 Product Strategy 就必須改變。
你不能問:
What can we build?
而要問:
What can we validate with the resources we have?
這兩句話看起來很像,其實完全不同。
前者容易讓產品無限膨脹。
後者會逼你做出真正的 Priority。
我們把第一階段 PoC 收斂成:
Camera -> Pre-trained AI Model -> Person Detection -> Geofence / Rule -> Intrusion Event -> Alert / Recording
這個 Use Case 有幾個好處:
第一,技術可行。
不需要從零訓練 Model。
第二,Edge AI 合適。
影像可以直接在 Edge Device 上處理,不需要把所有影像送到 Cloud。
第三,容易展示。
Demo 很容易讓客戶理解:
「這個地方平常沒有人,有人進來,系統就通知我。」
第四,可以往產品延伸。
未來可以再加入更多 Model、Rule、Event、Device Management,甚至 AI Agent。
以前我會認為:
資源越多,能做的事情越多。
但這次 PoC 讓我發現:
資源越有限,AI PM 越需要知道什麼不要做。
我們不是先有一個很完整的 AI Solution,再去找客戶。
而是從:
人力限制 -> 硬體限制 -> Model 限制 -> 找出可行的 AI Capability -> 再反推適合的 Use Case
最後才形成我真正能在短時間內驗證的 PoC。
這也是我認為 AI PM 很重要的一個能力:
不是把所有可能性都做出來,而是在有限資源下,找到最值得驗證的那一個。
而我們的下一個問題就是:
有了 Use Case 之後,怎麼把它從一個「可以 Demo 的 PoC」,變成一個真正有 Product Vision 的 Edge AI Application?