iT邦幫忙

#agent相關文章
共有 57 則文章
鐵人賽 Software Development DAY 29

技術 Day 29 - 上下文壓縮 - 下

今天要來實作第二層的壓縮 -「語意滾動壓縮」,當我們進行了上下文裁剪後,上下文窗口還是高達 75% 時(或者手動打指令),我們就要來實作這個壓縮方式。 多輪扁...

鐵人賽 Software Development DAY 28

技術 Day 28 - 上下文用兩 - 補充 + 上下文壓縮 - 上

怎麼又要估算呢?不是 Day 26 就完成了嗎?先前,我把 estimate_token() 直接放在 agent.py 裡,而現在,我打算建立一個獨立管理上下...

鐵人賽 Software Development DAY 27

技術 Day 27 - 上下文用量 - 下 + 中斷模型回答

今天,先來處理昨天做了一半的上下文用量,然後,來處理回答時 ctrl + c 終止模型回答的小功能。馬上開始吧! ollama 回傳的準確 token 還記得...

鐵人賽 Software Development DAY 26

技術 Day 26 - 上下文用量 - 上

雖然昨天說要開始來做上下文壓縮,但是,在這之前,我覺得應該要先來做可以看上下文佔用的功能,這樣我們才可以有感地體驗到壓縮的感覺。今天,我們完成它的前半部分,馬上...

鐵人賽 Software Development DAY 25

技術 Day 25 - 利用 subagent 做模型分工 - 下

接續昨天的內容,今天來處理最複雜的渲染部分,以及最後把渲染部分接回工具函數! 渲染方式 還記得 base.py 中定義的 LLMResponse 資料類別嗎?...

鐵人賽 Software Development DAY 24

技術 Day 24 - 利用 subagent 做模型分工 - 上

昨天,把圖片多模態給結束了,今天,要開啟一個同樣蠻複雜的項目 - subagent 子代理!這邊我們會定義好要如何進行,並把子 agent 的呼叫部分大致搞定;...

鐵人賽 Software Development DAY 23

技術 Day 23 - 圖片讀取的多模態能力 - 下

接續昨天的內容,我們繼續來完成做到一半的刪除圖片吧! 昨天有說到,按下 ctrl + O 後,會有幾個情況: 沒有圖片 -> 那當然就不用渲染出選單啦...

鐵人賽 Software Development DAY 22

技術 Day 22 - 圖片讀取的多模態能力 - 中

在昨天,我們搞定了圖片傳入到程式中,也儲存到了記憶體中(attached_images 之中),最後把它在 get_input() 中打包並回傳出來。今天我們要...

鐵人賽 Software Development DAY 21

技術 Day 21 - 圖片讀取的多模態能力 - 上

現在的 AI 模型往往都具備有多模態的能力,不只可以讀取及回傳文字,通常也都可以接受照片、聲音等資訊。而對於一個 Agent 來說,這項能力尤為重要,當我們想請...

鐵人賽 Software Development DAY 20

技術 Day 20 - 設定檔 - 用指令來更改設定 - 下

轉眼間已經來到 Day 20 了,也來到了設定檔的最後一篇,馬上設定的功能就可以完善了,我們繼續來處理更改設定的指令 _change_config()! 回顧一...

鐵人賽 Software Development DAY 19

技術 Day 19 - 設定檔 - 用指令來更改設定 - 上

設定檔的格式在前面兩天的努力下已經完成了,但是,現在有辦法修改設定嗎?當然沒辦法(除非手動找到檔案去改),所以今天要來做一個指令來去更改設定檔。 傳入設定檔參...

鐵人賽 Software Development DAY 18

技術 Day 18 - 設定檔 - 下

上一篇,我們把設定檔的格式以及存取部分完成了,而今天,我們要正式地來使用這些設定項目,也就是把它給接入我們的 Agent 系統裡,最後,我們還要做一個有趣的應用...

鐵人賽 Software Development DAY 17

技術 Day 17 - 設定檔 - 上

每個軟體甚至於系統,都會有「設定」這個功能。設定內的每個項目,一開始會有「預設」的設定值,如果沒有額外改動,就依照這個預設值去運作,而當然,也會有接口可以去更改...

鐵人賽 Software Development DAY 16

技術 Day 16 - 工作目錄的選擇

當程序首次被啟動時,main.py 調用 get_system_prompt() 時需要有 path 參數,也就是模型的「工作目錄」,來限制在區域內做事。而先前...

鐵人賽 Software Development DAY 15

技術 Day 15 - 輸入指令來改東西

claude code 或 codex 等 Agent 的 CLI 介面中,有許多的指令功能,例如 /exit 可以退出程式,/help 可以查看可用指令說明等...

鐵人賽 Software Development DAY 14

技術 Day 14 - 主程式

哇!我已經更新了兩個禮拜了,為我自己鼓掌一下哈哈。在先前的 13 篇,我們陸續完成了**「模型提供」、「工具調用」、「模型調度」、「system prompt...

鐵人賽 Software Development DAY 13

技術 Day 13 - ollama 進程的管理

之前在 Day 1 時不知道各位有沒有遇到一個問題,沒法調用模型,出現 httpx.ConnectError: [Errno 61] Connection re...

鐵人賽 Software Development DAY 12

技術 Day 12 - 漂亮的 CLI 介面 - 渲染 - 下

上一篇,說到要來做**「比較複雜的」模型回答的渲染**,那為什麼會複雜呢?之前有提過關於 Live 渲染會和終端的捲動而出現重複印出的問題,而推理的部分,因為我...

鐵人賽 Software Development DAY 11

技術 Day 11 - 漂亮的 CLI 介面 - 渲染 - 上

回顧一下負責渲染的 renderers.py 要負責些什麼: 分隔線渲染。 介面初始化渲染。 單行流式渲染(推理和工具參數句)。 推理總結渲染。 工具調用結果...

鐵人賽 Software Development DAY 10

技術 Day 10 - 漂亮的 CLI 介面 - 輸入

從 Day 2~4 加入工具,Day 5~7 獨立 agent 和 provider,Day 8~9 system prompt 部分,不知道各位有沒有發現一件...

鐵人賽 Software Development DAY 9

技術 Day 9 - 訂製 system prompt

system prompt 對於一個 Agent 來說非常重要,好的提示詞(prompt)可以好好的約束模型的作為,今天這篇要做的事就是定好它,讓模型可以有明確...

鐵人賽 Software Development DAY 8

技術 Day 8 - 將工具轉為 XML 格式

今天這篇和明天這篇,我們開始要對模型得到的 prompt 做一些基礎的處理了,這裡先看一下檔案結構的部分: src/meowgent/ ├── ... └─...

鐵人賽 Software Development DAY 7

技術 Day 7 - 獨立調用管道 - 下

回顧一下 chat() 要做到的: 從 main.py 取得輸入,加入多輪歷史。 限制單次對話中的工具調用次數。 調用模型。 檢查模型是否思考結束(做 thi...

鐵人賽 Software Development DAY 6

技術 Day 6 - 獨立調用管道 - 中

在這篇文章中,我們要處理一個較為棘手的任務:從流式輸出的模型回覆(chunk.content_chunk)中,精準「分離出工具調用請求」。 你可能覺得很奇怪,回...

鐵人賽 Software Development DAY 5

技術 Day 5 - 獨立調用管道 - 上

先前,我們把 main 放在 agent.py,而為了做到「架構分層」,應該要把它獨立出去才行! 這個部分: # src/meowgent/agent.py...

鐵人賽 Software Development DAY 4

技術 Day 4 加入工具吧 - 下

今天,終於是工具部分的最後一篇了,讓我們繼續完成最後兩個工具吧! 終端工具 很多的操作都可以用終端的指令來完成,賦予 Agent 執行 Shell 指令的能力...

鐵人賽 Software Development DAY 3

技術 Day 3 - 加入工具吧 - 中

上一篇,我們做的工具可以算是蠻簡單的,今天這篇,我們來做些更複雜的工具,比較困難的點是在於今天我們在工具進行了上下文控制的選擇,模型可以給出一個範圍,讓得出的結...

鐵人賽 IT Operation DAY 30

技術 Day 30|真正缺的從來不是另一個 Agent

年度 AI Review 的第一頁,數字比去年漂亮很多。 Production Agents: 47 Shared Skills: 83 Active Wor...

鐵人賽 IT Operation DAY 29

技術 Day 29|做出 Agent 的人有功,阻止錯誤 Agent 的人什麼都沒有

星期四下午,AI Demand Review 開到第十二個需求。 Request: Customer Complaint Summary Agent Expe...

鐵人賽 IT Operation DAY 28

技術 Day 28|主管說,這個 Agent 要又快、又準、又不能犯錯

Security Alert Triage Agent 的需求文件只有兩頁。 第一頁最上面寫著: Goal Use AI to improve securit...