昨天有提到,今天要來把整份程式做打包,提供給其他人使用,我本來以為打包成執行檔用下載的會比較簡單,後來發現直接在終端輸入指令安裝更方便,所以,我們今天讓程式可以...
今天要來實作第二層的壓縮 -「語意滾動壓縮」,當我們進行了上下文裁剪後,上下文窗口還是高達 75% 時(或者手動打指令),我們就要來實作這個壓縮方式。 多輪扁...
怎麼又要估算呢?不是 Day 26 就完成了嗎?先前,我把 estimate_token() 直接放在 agent.py 裡,而現在,我打算建立一個獨立管理上下...
今天,先來處理昨天做了一半的上下文用量,然後,來處理回答時 ctrl + c 終止模型回答的小功能。馬上開始吧! ollama 回傳的準確 token 還記得...
雖然昨天說要開始來做上下文壓縮,但是,在這之前,我覺得應該要先來做可以看上下文佔用的功能,這樣我們才可以有感地體驗到壓縮的感覺。今天,我們完成它的前半部分,馬上...
接續昨天的內容,今天來處理最複雜的渲染部分,以及最後把渲染部分接回工具函數! 渲染方式 還記得 base.py 中定義的 LLMResponse 資料類別嗎?...
昨天,把圖片多模態給結束了,今天,要開啟一個同樣蠻複雜的項目 - subagent 子代理!這邊我們會定義好要如何進行,並把子 agent 的呼叫部分大致搞定;...
接續昨天的內容,我們繼續來完成做到一半的刪除圖片吧! 昨天有說到,按下 ctrl + O 後,會有幾個情況: 沒有圖片 -> 那當然就不用渲染出選單啦...
在昨天,我們搞定了圖片傳入到程式中,也儲存到了記憶體中(attached_images 之中),最後把它在 get_input() 中打包並回傳出來。今天我們要...
現在的 AI 模型往往都具備有多模態的能力,不只可以讀取及回傳文字,通常也都可以接受照片、聲音等資訊。而對於一個 Agent 來說,這項能力尤為重要,當我們想請...
轉眼間已經來到 Day 20 了,也來到了設定檔的最後一篇,馬上設定的功能就可以完善了,我們繼續來處理更改設定的指令 _change_config()! 回顧一...
設定檔的格式在前面兩天的努力下已經完成了,但是,現在有辦法修改設定嗎?當然沒辦法(除非手動找到檔案去改),所以今天要來做一個指令來去更改設定檔。 傳入設定檔參...
上一篇,我們把設定檔的格式以及存取部分完成了,而今天,我們要正式地來使用這些設定項目,也就是把它給接入我們的 Agent 系統裡,最後,我們還要做一個有趣的應用...
每個軟體甚至於系統,都會有「設定」這個功能。設定內的每個項目,一開始會有「預設」的設定值,如果沒有額外改動,就依照這個預設值去運作,而當然,也會有接口可以去更改...
當程序首次被啟動時,main.py 調用 get_system_prompt() 時需要有 path 參數,也就是模型的「工作目錄」,來限制在區域內做事。而先前...
claude code 或 codex 等 Agent 的 CLI 介面中,有許多的指令功能,例如 /exit 可以退出程式,/help 可以查看可用指令說明等...
哇!我已經更新了兩個禮拜了,為我自己鼓掌一下哈哈。在先前的 13 篇,我們陸續完成了**「模型提供」、「工具調用」、「模型調度」、「system prompt...
之前在 Day 1 時不知道各位有沒有遇到一個問題,沒法調用模型,出現 httpx.ConnectError: [Errno 61] Connection re...
上一篇,說到要來做**「比較複雜的」模型回答的渲染**,那為什麼會複雜呢?之前有提過關於 Live 渲染會和終端的捲動而出現重複印出的問題,而推理的部分,因為我...
回顧一下負責渲染的 renderers.py 要負責些什麼: 分隔線渲染。 介面初始化渲染。 單行流式渲染(推理和工具參數句)。 推理總結渲染。 工具調用結果...
從 Day 2~4 加入工具,Day 5~7 獨立 agent 和 provider,Day 8~9 system prompt 部分,不知道各位有沒有發現一件...
system prompt 對於一個 Agent 來說非常重要,好的提示詞(prompt)可以好好的約束模型的作為,今天這篇要做的事就是定好它,讓模型可以有明確...
今天這篇和明天這篇,我們開始要對模型得到的 prompt 做一些基礎的處理了,這裡先看一下檔案結構的部分: src/meowgent/ ├── ... └─...
為什麼你的 Schneider PLC Float32 讀回來是 1.4e-41 而不是 25.5°C 痛點開頭 你用 Python 寫好 pymodbus 腳...
痛點:細節密集的傑作中那「看不見的世界」當明信片將傳統中國繪畫縮小時,縮小的比例會遮蔽細節。想像一張標準明信片,描繪著清朝時期擁擠街道上拉著馬車的工人和馬匹。大...
大家好,我是一名在自動化與軟硬整合領域打滾多年的工程師。 在工控領域工作,最煩的往往不是寫程式本身,而是那些「重複又瑣碎」的周邊工作。 像是: 想測個 Modb...
Day1~Day3在我的方格子 : https://vocus.cc/user/6581c332fd897800011ce225 Numbers Random...
在成功爬取和解析基因的起始與結束位置之後,我需要將這些數據保存下來,並進行驗證,以確保數據完整且無誤,今天的目標是將解析出的基因位置信息儲存到一個 Excel...
在處理大量基因數據時,使用同步爬蟲效率會很低,因此今天我將使用 aiohttp 來執行非同步爬蟲,這樣可以加速數據抓取過程。非同步爬蟲允許同時發送多個請求,而不...