iT邦幫忙

2026 iThome 鐵人賽

DAY 14
0
AI Engineering

我和 AI 一起打造 AI:30 天把 Sol 從對話框帶進真實世界系列 第 14 篇

Day 14|Permission 不是一句「可以」

  • 分享至 

  • xImage
  •  

昨天談到:

AI 有能力做一件事,

不代表它現在有權做。

所以真正重要的問題,不只是:

「Sol 能不能做?」

而是:

「誰允許她做?」

但當我真的開始想 Permission 這件事情,我很快就發現:

一句:

「可以。」

其實根本不夠。

https://ithelp.ithome.com.tw/upload/images/20260926/20184199pdRdRP4s9j.png


想像一個很簡單的對話。

Sol:

「Ronnie,我建議先修改這個設定做測試。」

我:

「可以。」

聽起來很正常。

但工程上真正要問的問題非常多。

我允許的是:

改哪一個設定?

在哪個環境?

只做一次?

如果失敗可以 Retry 嗎?

測試完成之後還能繼續改嗎?

這個 Permission 到什麼時候失效?

如果 System State 已經變了,原本的「可以」還有效嗎?


這時候我才發現:

人類講話很依賴 Context。

我們彼此通常知道:

「我剛剛說的可以,就是指眼前這件事。」

但 AI System 如果真的可以 Action,

不能永遠靠:

「應該是這個意思吧。」

https://ithelp.ithome.com.tw/upload/images/20260926/20184199Is8kmD0p57.png


所以我們後來開始把 Permission 拆開看。

目前我比較常用六個問題。

https://ithelp.ithome.com.tw/upload/images/20260926/20184199bs6BD5Nfq3.png

Who

誰給的授權?

Ronnie?

某個 Administrator?

某個 Workflow?


What

到底授權哪一個 Action?

「檢查設定」

跟:

「修改設定」

完全不同。


Scope

在哪個範圍?

Sandbox?

Development?

Production?

Physical System?

https://ithelp.ithome.com.tw/upload/images/20260926/20184199SPZaNqEmv1.png


State

這個 Permission 是在什麼 System State 下成立?

如果原本的條件改變,

授權還有效嗎?

https://ithelp.ithome.com.tw/upload/images/20260926/20184199lJmZsPmWyi.png


Duration

有效多久?

只限這一次操作?

這一個 Session?

還是某個時間範圍?


Consumption

這個 Permission 可以被使用幾次?

這個問題我以前幾乎沒有想過。

但後來發現非常重要。


假設我說:

「可以,再試一次。」

這代表:

一次 Retry?

還是 AI 可以:

Retry。

失敗。

再 Retry。

再失敗。

一直做到成功?

如果沒有 Consumption Boundary,

一句「可以」很容易被放大成:

無限 Permission。

這就是我不想看到的事情。

https://ithelp.ithome.com.tw/upload/images/20260926/20184199gjXtmaOf6j.png


所以現在我們開始把 Permission 想成:

一個有邊界、可以描述、可以稽核的治理物件。

注意這裡的用字。

我是說:

我們開始這樣設計與治理。

不是說:

「完整的 Production Permission Object System 已經全面部署完成。」

目前相關能力仍然分布在不同的 Architecture / Governance / Sandbox Scope。

這個 Development State 必須講清楚。


但這個拆法,已經改變我跟 Sol 合作的方式。

以前:

Sol:「我建議做一個 Sandbox Test。」

Ronnie:「可以。」

然後很容易一路變成:

Test。

Patch。

Deploy。

甚至繼續往下一步。

現在我會更明確:

「同意進入 Sandbox。」

這句話只代表:

Sandbox Scope。

不代表:

Production。


同樣的:

「同意這個 Architecture。」

也不代表:

「同意直接修改 Runtime。」

Architecture Approval。

Implementation Approval。

Test Approval。

Production Deployment。

其實都是不同 Gate。


這讓我越來越覺得:

AI Governance 最重要的事情之一,

不是一直問:

「要不要讓 AI 自主?」

而是:

自主到哪裡?


很多人聽到 Governance,

直覺會覺得:

限制。

流程。

阻礙速度。

但我的感受反而相反。

如果 Permission Boundary 清楚,

我其實更敢讓 Sol 自主。

例如某一個 Sandbox Scope 已經明確授權:

可以讀。

可以測。

可以產生 Candidate。

不能寫 Production。

不能改 Credential。

不能碰 Physical Control。

那在這個邊界裡,

Sol 就可以有很大的自由度。


這就是我現在很喜歡的一句話:

Governance creates safe autonomy.

真正讓我敢放手的,

不是 AI 跟我保證:

「我不會出錯。」

而是:

System 本身知道:

哪裡能走。

哪裡不能走。

什麼時候必須重新取得授權。

https://ithelp.ithome.com.tw/upload/images/20260926/20184199lNMI8LtLZl.png


這件事情在 Physical World 會更重要。

例如未來我說:

「把會議室調舒服一點。」

假設系統真的具有相關控制能力,

這句話也不應該被解讀成:

「你可以修改這個空間所有設備的任何設定。」

可能真正允許的 Scope 只是:

某個 Space。

某些 Capability。

某個 Comfort Range。

某段時間。

而且仍然受 Safety / Energy / IAQ Policy 約束。


所以 Permission 不只是:

Yes / No。

它比較像:

Bounded Authority。

有邊界的 Authority。


而且這個 Boundary 不是只有 AI 要遵守。

Human 也必須講清楚。

如果我的指令很模糊,

我不能一方面只說:

「可以啊。」

另一方面事情做錯後又說:

「我不是那個意思。」

如果未來真的要建立可信任的 Human–AI Collaboration,

Human 的 Authorization 也必須越來越精確。


這是我覺得很有意思的一點。

Governance 不是:

只治理 AI。

它同時也會逼著 Human 把自己的意圖說得更清楚。


所以 Day 14 走到這裡,我現在會把 Permission 理解成:

不是一個字。

不是一個 Yes。

也不是一個永久通行證。

它至少應該開始回答:

Who。

What。

Scope。

State。

Duration。

Consumption。


但這裡還有一個更麻煩的問題。

假設:

Permission 有了。

Scope 也有了。

可是執行當下,

System 發現:

Context 不完整。

State 對不上。

Authority 出現衝突。

甚至不確定現在到底是不是原本被授權的那個 Workflow。

這時候 AI 應該怎麼辦?

是:

「大概沒問題,先做再說。」

還是:

停?

Day 15,

我們來談下一條治理原則:

不確定,就不要做。

也就是:

Fail Closed。

https://ithelp.ithome.com.tw/upload/images/20260926/20184199rJbwxkI9EN.png


上一篇
Day 13|AI 開始會用工具以後,我反而更緊張了
下一篇
Day 15|不確定,就不要做:我們為什麼選 Fail Closed
系列文
我和 AI 一起打造 AI:30 天把 Sol 從對話框帶進真實世界 共 19 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言