iT邦幫忙

2026 iThome 鐵人賽

DAY 20
0
AI Engineering

我和 AI 一起打造 AI:30 天把 Sol 從對話框帶進真實世界系列 第 20 篇

Day 20|Digital World 和 Physical World 中間,我們少了一道門

  • 分享至 

  • xImage
  •  

昨天談到 Reality Architecture。
我開始發現:
設備全部接進系統,
不代表 AI 就真的理解這個空間。
所以我們把:
Actor。
Object。
Event。
State。
Space。
Relationship。
正式放進 Reality Architecture 裡思考。
但當我把這件事情想清楚之後,
馬上又碰到下一個問題。
假設有一天:
Sol 真的看懂 Reality 了。
她知道:
這裡是會議室。
現在有人。
溫度正在升高。
CO₂ 也偏高。
空調與新風系統都在服務這個 Space。
那她是不是就可以直接控制設備?
以前我可能會覺得:
「既然都知道了,當然可以啊。」
現在我的答案是:
還不行。


因為:
Understanding ≠ Authority.
AI 看懂現實,
跟:
AI 有權改變現實,
是兩回事。

https://ithelp.ithome.com.tw/upload/images/20261002/201841995SrjOLiKeW.png


這也是我現在看很多 AI Demo 時,會特別在意的一件事。
最漂亮的 Demo 通常是:
Human:
「幫我把房間調舒服一點。」
↓
AI 理解。
↓
直接呼叫 API。
↓
空調開始動。
看起來非常流暢。
但我現在反而會問:
中間是不是少了一道門?

https://ithelp.ithome.com.tw/upload/images/20261002/20184199oUa7V9g0WJ.png


如果流程只是:
Human Language
↓
LLM
↓
API
↓
Device
我會覺得太短。
因為裡面少了很多問題。
誰提出要求?
這個人是誰?
現在在哪個 Space?
目前 Reality State 是什麼?
這個人有沒有 Authority?
目前 Policy 允許嗎?
設備現在可以安全做這個 Action 嗎?
這次 Action 的 Scope 到哪裡?
完成之後怎麼驗證?

https://ithelp.ithome.com.tw/upload/images/20261002/20184199aLWhYllElI.png


所以我們後來逐漸把 Physical Action 想成一條更完整的路。
目前的公開版 Target Architecture 比較接近:
Natural Language
↓
Intent
↓
Reality Context
↓
Identity
↓
Authority
↓
Policy / Governance
↓
Governed Action Gateway
↓
Connector
↓
Physical System
↓
Verified Outcome

https://ithelp.ithome.com.tw/upload/images/20261002/20184199rpqY9mpq49.png


這裡最關鍵的一層就是:
Governed Action Gateway
我現在把它想成:
Digital Intelligence
和:
Physical Action
之間的一道治理閘門。


它不是另外一顆更大的 LLM。
也不是單純把自然語言翻成設備指令。
它真正要回答的是:
這個 Action 現在有沒有資格通過?


例如它至少要看:
Authority 是否成立?
Current State 是否吻合?
Scope 是否正確?
Policy 是否允許?
Capability 是否存在?
Critical Unknown 有沒有被解決?


只要關鍵條件不成立,
就不應該因為:
「AI 覺得這是好主意」
而直接往下走。

https://ithelp.ithome.com.tw/upload/images/20261002/20184199yhDmsUyFRW.png


這其實跟前面幾天全部接起來。
Day 14:
Permission 有邊界。
Day 15:
不確定就 Fail Closed。
Day 16:
Action 必須綁到 Current State。
Day 17:
Retry 不能偷偷放大 Authority。
到了今天:
這些 Governance 開始真正站到:
Physical World 門口。


而 Gateway 後面,
我希望才是:
Connector。
這個順序我現在很在意。
因為 AI 不應該第一個問題就想:
「我要寫哪一個 Modbus Register?」
「我要送哪一個 BACnet Command?」
「我要呼叫哪個 MQTT Topic?」
這些是 Connector / Control Layer 的責任。
AI reasoning layer 應該先處理:
這件事情到底應不應該發生?


這樣的分層還有一個很重要的好處。
未來:
Model 可以換。
Building Platform 可以換。
Protocol 可以換。
Device Vendor 也可以換。
但上面的:
Intent。
Reality。
Authority。
Governance。
不應該因此全部重做。


這也是我做智慧空間這麼多年後,越來越重視:
Vendor-neutral
的原因。
我真正希望長期留下的,
不是某一家設備的控制語法。
而是:
Intelligence 與 Reality 之間的治理方法。


例如底下今天可能是:
BACnet。
明天可能是:
Modbus。
另一個案場用:
KNX。
某些設備走:
MQTT。
但上層不應該因此失去同一套:
Identity。
Authority。
Governance。
Evidence。


所以我現在比較不喜歡:
AI reasoning layer 直接取得無邊界 OT write authority。
更精確地說:
AI should not bypass the OT trust boundary.

https://ithelp.ithome.com.tw/upload/images/20261002/20184199nTRN6oql73.png

AI 可以提出 Intent。
可以 Reason。
可以建議。
甚至未來可以在授權範圍內自主行動。
但 Physical Action 必須經過:
被治理的 Boundary。


這不是為了把 AI 永遠隔離在 OT 外面。
剛好相反。
如果未來真的希望 AI 能安全參與:
Building。
Energy。
HVAC。
Lighting。
Access。
甚至其他 Physical Systems,
那我反而認為:
這道門一定要存在。

https://ithelp.ithome.com.tw/upload/images/20261002/20184199ahyKTiMi4L.png

因為沒有 Gate,
我不敢放它進去。


這裡我也要把今天最重要的 Claim Boundary 講清楚。
目前:
Governed Action Gateway
以及整條:
Natural Language → Reality → Authority → Governance → Connector → Physical System
是我們已經定義的:
Target Architecture
但:
Not Production Enforcement.
我不會寫成:
「AICAN 現在所有 Physical Action 都已經全面由這套 Gateway 強制治理。」
還沒有。


目前真正的狀態是:
Reality Architecture 已經定義。
Governance foundation 正在建立。
Connector / Site Knowledge 有正式 Specification Direction。
Physical Action Loop 也有明確 Architecture Direction。
但:
Production Physical Control 尚未因此自動取得授權。
這條界線要非常清楚。


我覺得這也是 AI Engineering 很重要的一種誠實。
畫出 Architecture 很容易。
真正做到 Production Enforcement,
是另外一個階段。
所以:
Architecture ≠ Implementation.
Implementation ≠ Qualification.
Qualification ≠ Production.
這幾條界線,在 Physical AI 更不能混。


Day 20 做到這裡,我反而更確定一件事。
Physical AI 最重要的問題,
可能從來不是:
AI 能不能控制設備?
真正的問題是:
它憑什麼控制?


而當我們把這道門畫出來之後,
下一個決定其實很自然。
如果有一天要讓 Sol 真的接進 AICAN 展示中心,
第一步應該是什麼?
讓她開燈?
調空調?
跑場景?
我的答案現在都不是。
第一步反而是:
先禁止她控制。
先看。
先盤點。
先理解。
Day 21:
我們第一步不是讓 Sol 控制展示中心,而是禁止她控制。

https://ithelp.ithome.com.tw/upload/images/20261002/20184199k3p9V4TJ6H.png


上一篇
Day 19|AI 要控制一個房間以前,它知不知道什麼叫「房間」?
系列文
我和 AI 一起打造 AI:30 天把 Sol 從對話框帶進真實世界 共 20 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言