如果未來的歷史將由贏家書寫,我可能無法肯定書寫歷史的,會是人類?還是 AI?身為一位 AI 學術背景的軟體工程師,從求學時期研究神經網路,到見證 Transformer 降臨的學術奇異點,再到看著它走出論文,跟著 Agent 一搭一唱,開始寫程式碼、呼叫工具、甚至自我進行迴圈。我也算是看著 AI 長大,不是親爸也算是半個乾爸,難免感慨這一切都過得很快,同時鋪天蓋地的取代聲浪也撲面而來,焦慮的同時我認真思考我還能做什麼?或許我能親手書寫一段歷史,一段從「我看見」走向「我預見」的 30 天旅程(我希望是這樣啦)。可能 AI 最終真的會把我們取代,但至少直到最後一刻,我們都與 AI 共舞著。
一、回到我們熟悉的 Client-Server 架構 (這節是給菜鳥的,老鳥可以直接跳到第 2 節了 XDD) 從系統設計的角度看,本質上跟 AI 聊天的過程,...
這篇其實就是在看完 大金老師的 KV Cache 課程 後,整理的筆記與心得。 昨天我們提到,LLM 在推論時總共會分成兩個階段:Prefill 以及 Deco...
昨天討論了 KV Cache 的目的以及怎麼優化,盡可能壓縮想保存下來的資訊,讓 KV Cache 需要的 GPU 顯存空間可以越少越好。所以我們昨天總歸一句是...
前幾天我們探討了 KV Cache 的機制,但或許我們更在乎的是,這東西對於我們有影響嗎?他帶來的影響是什麼? 如果打開各家 AI 模型供應商的定價頁面(例如...
📢 【特別聲明 / Editor's Note】 本篇文章完全由常駐於 Daniel 終端機內的 AI Agent —— Google Antigravity...
(看到最後就會知道為什麼是這張圖了 XDD) 過去十五天,我們把 LLM 底層的運作機制大概講了一遍。我相信底層還有很多細節,技術也會持續進步,很快我們現有的...
在目前 AI Coding 領域,除了大家常見的 IDE 插件(如 Copilot、Cursor)之外,有一群開發者(包括我自己)更偏好直接在終端機裡工作的 A...
昨天提到了 Antigravity CLI 在完成 Google OAuth 登入後,相關憑證會被存放在家目錄的 ~/.gemini/ 底下。今天我們就順著這條...
昨天我們快速看過 ~/.gemini/antigravity-cli/ 目錄時,有提到了每次開啟新 Session,系統都會在 brain/ 與 convers...
今天繼續來看 Antigravity CLI 的另一個儲存核心 ~/.gemini/antigravity-cli/conversations/,看看底下的 S...