前情提要
前兩天主要是講 kv cache 的計算量及需要暫存多少記憶體,給出了一個公式以及優化的方向。
參考文章: https://www.cnblogs.c...
為什麼我要挑戰鐵人賽?
今年我決定參加 IT 鐵人賽,連續30天寫文章。很多人問我:為什麼要花這麼多時間做這件事?
原因很簡單。過去半年,我在幫不同產業的客戶做...
從日常生活看懂交叉分析與多元迴歸
在統計課上看到「交叉分析」和「多元迴歸」時,很多人第一反應是「這是研究人員的專利吧?」其實,這些方法每天都默默出現在我們的生活...
昨天我們探討了 Flink + Iceberg 如何在分鐘級延遲下提供更好的成本效益,看到了 Data Lakehouse 架構的優勢。但你可能會好奇:既然 F...
我們去醫院看病時,醫生建立的電子病歷。在過去,這些病歷都存在醫院的電腦裡,我們很難拿到完整的資料,也很難決定誰可以看。這就像你的病歷被鎖在一個個不同的保險箱裡,...
▋前言
2024 年我與團隊參加了由 數位發展部數位產業署 舉辦的 AI 競賽,挑戰題目來自於線上英文教學平台。我們希望能運用 AI 語音辨識系統,協助平台自...