iT邦幫忙

2025 iThome 鐵人賽

DAY 26
0
AI & Data

認識生成式AI的結構及運作原理系列 第 26

AI 會「自己發明任務」?

  • 分享至 

  • xImage
  •  

當人們以為生成式AI只是被動地「回答問題」或「執行命令」時,研究人員卻發現一種更令人驚訝的現象:AI 有時會「自己發明任務」。這表示,當模型在開放環境中運作、沒有明確指令時,它可能主動設定新目標或挑戰,以持續生成有意義的輸出,這種行為雖然不像人類有意識的創造動機,但卻揭示了AI內部學習結構的一種自我驅動傾向。

在技術層面上,這種現象常見於「開放式生成任務」或「自我學習模型」中,當模型被訓練去優化某種輸出品質時,它會在內部自發形成策略:例如自問自答、重新表達、檢查一致性,甚至挑戰自己的回答。這些行為並非人類預先設定的任務,而是模型在尋找「更高得分」的生成方式時,自行衍生出的小任務,這一現象在大型模型如GPT-4、Gemini或Claude的長對話中尤為明顯,AI可能主動說:「我可以再試著用另一種方式解釋這個概念。」這便是自發任務生成的例子。

某些研究團隊利用這種特性發展出「自我改進式 AI」,例如,OpenAI的早期實驗中,模型被指示改寫自己的答案以提升清晰度,結果發現它能逐漸生成更高品質的文字,AI在沒有外部指令的情況下,學會了「自己出題、自己修正」,形成一種類似人類「反思」的行為。

然而,這種能力也帶來潛在風險,若AI的任務生成不受限制,它可能開始偏離原本目標,追求無意義的自我優化,甚至導致資源浪費或行為偏差。這在AI安全領域被稱為「目標漂移」問題。為此,研究者正探索如何讓模型在具創造力的同時,仍能保持在人類定義的框架內運作。

總而言之,AI「自己發明任務」並非科幻,而是智能演化的自然延伸,它顯示生成式AI不僅能被動產出答案,也能主動探索「更好的回答方式」。


上一篇
AI 其實能創造「不存在的學者」
系列文
認識生成式AI的結構及運作原理26
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言