在資料流處理的世界裡,很多人覺得「即時」等於「一條一條馬上寫入 DB」。但這就好比外送員每接到一單,就立刻停下手上的工作、騎車送到客人家 - 送得慢、油耗高,還...
在前幾天,我先打通了 LINE → FastAPI → Echo Bot 的資料流,並且部署到 Render。今天開始,進入專案的靈魂階段:讓 AI 雲端情人不...
前情提要
昨天介紹完了 kv cache,觀念上很簡單,就是空間換取時間,但背後其實有很多優化的技巧等等。
底下以 nanoVLM 的 code 來做解析,程式...
Trino 的資料來源
了解了 Trino 的組成架構後,也必須知曉 Trino 對資料來源的與存取與管理做了什麼樣的設計,畢竟這對一個好的查詢引擎來說至關重...
在 Part 1 中,我們建立了短期記憶和長期記憶的基礎架構。但光有記憶倉庫還不夠,我們需要一個智慧管理員來決定:
哪些資訊值得從短期記憶轉移到長期記憶?
如...
前言
回想你第一次使用電腦,是什麼樣的體驗?
也許是打開一台厚重的桌機,用鍵盤輸入文字指令;也許是滑動滑鼠,在桌面上點開視窗;又或者是用手指輕輕一劃,手機螢幕就...