Agent(智能代理)就是讓模型根據指令,自動決定要使用哪個工具、查什麼資料、做什麼動作,最後再回覆結果。
舉例來說:
如果問「幫我查今天台北的天氣,再幫我換算成華氏溫度。」
一般LLM(沒有Agent)只能假裝回答:
「今天台北大約 27°C,換算華氏約 80°F。」(亂猜)
有Agent時,它會呼叫天氣API查實際氣溫,呼叫計算工具換算,整理答案給予真實答案。
在LangChain中:Agent=LLM+Tools+Controller
LLM:負責理解任務、思考步驟。
Tools:外部工具,例如搜尋引擎、計算機、資料庫。
Controller:控制流程(讓模型知道何時該停止、何時執行工具)。
Agent的運作流程:
使用者輸入→思考要怎麼做→選擇適合的工具(Tool)→執行工具(像查資料、計算)→把結果回傳給LLM→產生最終回答給使用者
它不是一次生成,而是會多次循環思考,每次思考與動作都可能被多次重複,直到模型判斷問題已解決為止。這個多次循環思考的過程又叫做ReAct(Reason + Act)框架。