- 為什麼要了解專有名詞
- Context 是什麼
- Context 不足會有什麼影響
想像一下你要和一位剛從國外回來的資深工程師 pair 了,但他有自己習慣用的一套開發流程和工具。
你:「我們來開始寫 code 吧!」
他:「等等,我們先來先定義一下 DoD(Definition of Done),然後設定 WIP limit,這個 story point 要先 estimate。」
這時候不懂這套規則的你,是不是會一頭霧水呢?
接著寫程式的時候,他一直打斷你:
「這個要先寫 test case」
「要遵守 DRY 原則」
「記得 commit message 要符合 conventional commits 格式」
你會不會想翻桌,「我只是想寫個程式!」
你覺得他規矩很多、很難配合,他覺得你不專業、沒有章法。明明兩個人技術能力都不差,卻因為你不懂他的工作方式和術語,導致 pair 的過程充滿摩擦,讓一加一沒有達到大於二的效果。你們花了大把時間在解釋和爭論,而不是在解決問題。
這就是今天想要聊的主題:先了解你的 pair 好夥伴的專業術語。
當你開始與 AI 協作時,就像那個不懂敏捷開發的工程師一樣。不了解 prompt engineering、context window、token limit 這些術語,你會困惑為什麼 AI 回應不如預期,或為什麼它會「忘記」之前的對話。
但如果你了解 AI 的一些專業術語,這些知識可以讓你更精確地下指令、設計有效的對話流程,真正發揮協作威力。當你們說著同樣的「語言」,就能專注解決問題,而不是浪費時間在誤解上。
不知道大家有沒有玩過海龜湯?有一個最經典的海龜湯例子是:「一個男人走進餐廳,點了海龜湯,喝了一口後就自殺了。」
單看這句話完全摸不著頭緒,對吧?但隨著你不斷提問,你會搜集到更多有用的資訊,漸漸拼湊出整個故事的全貌。像是:
「這湯有毒嗎?」「沒有。」
「他以前喝過海龜湯嗎?」「有。」
「那次經歷很重要嗎?」「非常重要。」
這個故事的結局不是我們文章的重點,但我們可以觀察到的是:一開始的那句話是沒有完整的上下文的。
Context 在中文通常被翻譯為上下文。海龜湯的玩法就是一開始不會有完整的上下文資訊,必須要透過不斷地提問來拼湊出有因果關係的故事。
如果你只有看到一開始的那句話,這時候有人要問你海龜湯是什麼故事,你可能會開始編造一些劇情:「海龜湯就是一個男人走進餐聽喝了一碗湯,想到媽媽死前很想喝但自己來不及買給他喝,想到很自責所以自殺的故事」。
因為沒有完整的上下文,所以會像這樣把前因後果隨便串起來 —— AI 也是。
生成式 AI 之所以叫生成式,就是因為他大多數時間都是根據已經有的資訊來產生回答。AI 是基於訓練資料中的模式和規律來生成回應,當缺乏足夠的上下文資訊時,就會根據訓練過程中學習到的類似模式,產生出一個它認為最符合當前情況的回答,這也就是為什麼有人常常抱怨 AI 會產生幻覺。
在 AI 應用中,Context 不僅包括當前對話的上下文,還涵蓋了系統設定、歷史對話記錄、輸入格式、以及相關的背景資訊等。因此,如何管理 context、什麼時候該切換 context 就變得很重要。
以上是今天的分享,明天會繼續介紹一些我認為在和 AI pair 的過程中需要了解的幾個名詞。還有哪些名詞是你在平常遇到會覺得困惑的呢?歡迎留言跟我分享喔!
我們明天見 👋