今天要來實作第二層的壓縮 -「語意滾動壓縮」,當我們進行了上下文裁剪後,上下文窗口還是高達 75% 時(或者手動打指令),我們就要來實作這個壓縮方式。 多輪扁...
怎麼又要估算呢?不是 Day 26 就完成了嗎?先前,我把 estimate_token() 直接放在 agent.py 裡,而現在,我打算建立一個獨立管理上下...
今天,先來處理昨天做了一半的上下文用量,然後,來處理回答時 ctrl + c 終止模型回答的小功能。馬上開始吧! ollama 回傳的準確 token 還記得...
雖然昨天說要開始來做上下文壓縮,但是,在這之前,我覺得應該要先來做可以看上下文佔用的功能,這樣我們才可以有感地體驗到壓縮的感覺。今天,我們完成它的前半部分,馬上...
接續昨天的內容,今天來處理最複雜的渲染部分,以及最後把渲染部分接回工具函數! 渲染方式 還記得 base.py 中定義的 LLMResponse 資料類別嗎?...
昨天,把圖片多模態給結束了,今天,要開啟一個同樣蠻複雜的項目 - subagent 子代理!這邊我們會定義好要如何進行,並把子 agent 的呼叫部分大致搞定;...
接續昨天的內容,我們繼續來完成做到一半的刪除圖片吧! 昨天有說到,按下 ctrl + O 後,會有幾個情況: 沒有圖片 -> 那當然就不用渲染出選單啦...
在昨天,我們搞定了圖片傳入到程式中,也儲存到了記憶體中(attached_images 之中),最後把它在 get_input() 中打包並回傳出來。今天我們要...
現在的 AI 模型往往都具備有多模態的能力,不只可以讀取及回傳文字,通常也都可以接受照片、聲音等資訊。而對於一個 Agent 來說,這項能力尤為重要,當我們想請...
轉眼間已經來到 Day 20 了,也來到了設定檔的最後一篇,馬上設定的功能就可以完善了,我們繼續來處理更改設定的指令 _change_config()! 回顧一...
設定檔的格式在前面兩天的努力下已經完成了,但是,現在有辦法修改設定嗎?當然沒辦法(除非手動找到檔案去改),所以今天要來做一個指令來去更改設定檔。 傳入設定檔參...
上一篇,我們把設定檔的格式以及存取部分完成了,而今天,我們要正式地來使用這些設定項目,也就是把它給接入我們的 Agent 系統裡,最後,我們還要做一個有趣的應用...
每個軟體甚至於系統,都會有「設定」這個功能。設定內的每個項目,一開始會有「預設」的設定值,如果沒有額外改動,就依照這個預設值去運作,而當然,也會有接口可以去更改...
當程序首次被啟動時,main.py 調用 get_system_prompt() 時需要有 path 參數,也就是模型的「工作目錄」,來限制在區域內做事。而先前...
claude code 或 codex 等 Agent 的 CLI 介面中,有許多的指令功能,例如 /exit 可以退出程式,/help 可以查看可用指令說明等...
哇!我已經更新了兩個禮拜了,為我自己鼓掌一下哈哈。在先前的 13 篇,我們陸續完成了**「模型提供」、「工具調用」、「模型調度」、「system prompt...
之前在 Day 1 時不知道各位有沒有遇到一個問題,沒法調用模型,出現 httpx.ConnectError: [Errno 61] Connection re...
上一篇,說到要來做**「比較複雜的」模型回答的渲染**,那為什麼會複雜呢?之前有提過關於 Live 渲染會和終端的捲動而出現重複印出的問題,而推理的部分,因為我...
回顧一下負責渲染的 renderers.py 要負責些什麼: 分隔線渲染。 介面初始化渲染。 單行流式渲染(推理和工具參數句)。 推理總結渲染。 工具調用結果...
從 Day 2~4 加入工具,Day 5~7 獨立 agent 和 provider,Day 8~9 system prompt 部分,不知道各位有沒有發現一件...
system prompt 對於一個 Agent 來說非常重要,好的提示詞(prompt)可以好好的約束模型的作為,今天這篇要做的事就是定好它,讓模型可以有明確...
今天這篇和明天這篇,我們開始要對模型得到的 prompt 做一些基礎的處理了,這裡先看一下檔案結構的部分: src/meowgent/ ├── ... └─...
回顧一下 chat() 要做到的: 從 main.py 取得輸入,加入多輪歷史。 限制單次對話中的工具調用次數。 調用模型。 檢查模型是否思考結束(做 thi...
在這篇文章中,我們要處理一個較為棘手的任務:從流式輸出的模型回覆(chunk.content_chunk)中,精準「分離出工具調用請求」。 你可能覺得很奇怪,回...
先前,我們把 main 放在 agent.py,而為了做到「架構分層」,應該要把它獨立出去才行! 這個部分: # src/meowgent/agent.py...
今天,終於是工具部分的最後一篇了,讓我們繼續完成最後兩個工具吧! 終端工具 很多的操作都可以用終端的指令來完成,賦予 Agent 執行 Shell 指令的能力...
上一篇,我們做的工具可以算是蠻簡單的,今天這篇,我們來做些更複雜的工具,比較困難的點是在於今天我們在工具進行了上下文控制的選擇,模型可以給出一個範圍,讓得出的結...
年度 AI Review 的第一頁,數字比去年漂亮很多。 Production Agents: 47 Shared Skills: 83 Active Wor...
星期四下午,AI Demand Review 開到第十二個需求。 Request: Customer Complaint Summary Agent Expe...
Security Alert Triage Agent 的需求文件只有兩頁。 第一頁最上面寫著: Goal Use AI to improve securit...