iT邦幫忙

2026 iThome 鐵人賽

DAY 23
1

每次看著社群裡的小夥伴拿著新設備開始各種胡搞瞎搞,心裡總是有種莫名的感動。

前幾天順手幫忙牽線借了一台機器給夥伴,本來以為拿到機器應該會乖乖照著標準流程跑個 benchmark,寫個幾行字交差了事。結果倒好,才過沒幾天,這小子直接一頭栽進去,把 SGLang 的底層算子翻出來改,一路從 ROCm、PyTorch、Triton 追到硬體架構的限制,硬生生把還沒完全支援的平台當成樂高在組。

這就是開源最有趣的地方吧。官方文件永遠是給乖小孩看的,而真正的樂趣往往藏在那些滿地都是坑、還沒官方說明書的無人區。看著他們一邊抱怨環境難搞,一邊默默開 patch 準備送上去,總會讓人想起當年自己也是這樣,仗著一股傻勁跟厚臉皮,覺得不順眼就自己動手改。

社群的溫度大概就是這樣累積起來的。不只是技術上的碰撞,還有那種學會對身邊提供資源的人說聲謝謝、互相推坑,然後在半夜三點傳訊息說我已經在改算子的熱血。

希望這台機器能陪他玩出更多花樣。至於最後是要成功把新架構支援起來,還是中途不爽直接鬼轉回 NV,那就都是後話了。


上一篇
哎喲 我也是有在做事情
系列文
開源大佬的脆弱心靈日記23
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言