謝謝AI,真的很謝謝他才能讓我在短時間內學到很多預料之外的內容。
這是一個「完全」由ai開發的portal,甚至連接下來30天的內容也是ai產的。
主要業務是一個ai客服平台。從前端經由portal(大平台)再到後方的engine檢索km,來得到最精確回答的一系列過程。
雖然我覺得RAG檢索KM,很有趣,但portal更有趣!!
接下來的30天就讓我們從頭開始認識這個portal(我真的很想把頭貼換成王大陸)需要知道哪些技術細節吧。
昨天 Day 20 我們收掉了第五章守門的最後一道——confused deputy 防護。那道閘強制把工具呼叫的操作身分覆寫成登入者本人,從根本擋掉「誘騙模型...
昨天的意圖路由把小林那句話拆出了兩個旗標:it=true、geo=true。我們也說過,這兩個旗標不是判完就丟,而是會一路帶著走、變成下游「該去哪裡找料」的開關...
昨天 Day 22 把答案的素材湊齊了:兩路查詢用 zip 並行壓低延遲、不該查的條件式擋下來,最後兩路匯齊、上下文組好,模型開始生成回答。問題是,模型「開始生...
昨天 Day 23 把答案串流回去了——token 一個個冒出來,使用者不用盯著空白乾等。但答案吐完、最後一個字浮現,這次互動就真的結束了嗎?對使用者來說是;對...
我們把稽核紀錄(audit log)的骨架立了起來:一次互動一列、append-only、身分認 SSO、寫入 fire-and-forget、目標可抽換。但結...
昨天我們把 audit 的保底遮罩補好,讓「誰來過、做了什麼」這筆紀錄就算上游守門被設成 mock 也不會把原文漏進日誌。但 audit 回答的是「單一事件的合...
昨天 Day 26 收掉了第七章——我們把 metrics 和日誌都串在那組 correlation id 上,讓一個分散式、非同步的系統「看得清自己在幹嘛」。...
昨天 Day 27 我們把第二條整合路講完了——Agent 軌讓一個 LLM 自己決定要不要去呼叫後端工具,鬆耦合、有彈性,但也意味著「一題到底會打幾次模型」這...
昨天 Day 28 講用量閘門,我們把成本與頻率擋在花錢之前——不管請求從哪裡來,進門先過預檢、每次呼叫 LLM 前再查一次帳本。但這裡藏了個沒講白的前提:那道...
昨天我們把最後一塊拼圖補上了:文字、截圖、語音三種前端怎麼共用一套後端,還有那層大多已接線、只剩計畫驗證未接的 Agent 自主行動安全防線。到這裡,從進門到出...