iT邦幫忙

oblivionis
iT邦見習生 ‧ 點數 104
2914
累計瀏覽數
站內簡訊 追蹤

oblivionis 的發文列表 26

0 Like 0 留言 119 瀏覽

技術 Day 16 - 45 秒裡有 27.5 秒在自言自語：thinking mode 什麼時候該關？

18th鐵人賽
2026-08-27 由 oblivionis 分享
0 Like 0 留言 135 瀏覽

技術 Day 15 - 12B 的 KV cache 為什麼比 117B 還貴？因為你只看了一本帳

18th鐵人賽
2026-08-26 由 oblivionis 分享
0 Like 0 留言 132 瀏覽

技術 Day 14 - 這台機器能同時服務幾個人？Little 定律與七檔容量速查表

18th鐵人賽
2026-08-25 由 oblivionis 分享
0 Like 0 留言 178 瀏覽

技術 Day 13 - 跑到 90 tok/s，為什麼第一個答案字還要等 8 秒？

18th鐵人賽
2026-08-24 由 oblivionis 分享
0 Like 0 留言 157 瀏覽

技術 Day 12 - 504 ＋ 504 為什麼不等於 1008：消費卡雙卡的通訊帳

18th鐵人賽
2026-08-23 由 oblivionis 分享
0 Like 0 留言 150 瀏覽

技術 Day 11 - 70B 上 M4 Max：那些 20-28 tok/s 到底是怎麼來的

18th鐵人賽
2026-08-22 由 oblivionis 分享
0 Like 0 留言 127 瀏覽

技術 Day 10 - 546 對 504 帳面同級，為什麼 4070 Ti 實測快 41%

18th鐵人賽
2026-08-21 由 oblivionis 分享
0 Like 0 留言 232 瀏覽

技術 Day 09 - 權重塞得下 ≠ 跑得動：KV cache 公式與 GQA、MQA、MLA

18th鐵人賽
2026-08-20 由 oblivionis 分享
0 Like 0 留言 256 瀏覽

技術 Day 08 - 一大票顯卡對比文都算錯了：M4 Max 對 4070 Ti、5090 與 RTX PRO 6000

18th鐵人賽
2026-08-19 由 oblivionis 分享
0 Like 0 留言 229 瀏覽

技術 Day 07 - 128GB 只能用 96GB？Mac 統一記憶體的潛規則

18th鐵人賽
2026-08-18 由 oblivionis 分享
oblivionis的鐵人檔案
oblivionis的收藏
oblivionis的追蹤
oblivionis的Like
oblivionis的紀錄
oblivionis的訂閱列表