iT邦幫忙

2025 iThome 鐵人賽

0
DevOps

30 天帶你實戰 LLMOps:從 RAG 到觀測與部署系列 第 31

Day31 - 鐵人賽後記:30 天、 ♾️ 次想放棄、1 句感謝

  • 分享至 

  • xImage
  •  

🔹 對於前輩的感謝

我在工作中有遇到一位很特別的前輩,他太忙了大概不會看鐵人賽。

他對於基礎建設成本數字的精算程度以及技術選型都讓人望塵莫及,讓我對於 SRE 工作有著完全不同的認識。我常常看著他寫的文件發呆,想說怎麼會有人算的這麼仔細

和他討論技術選型的時候,偶爾我會想嘗試新的技術,但他會很認真的說明為什麼某些技術不該這個時候放在專案裡面、以及技術選型的 trade-offs

很神奇的是共事了一段時間之後,我的腦子裡會長出他對工作事務的判斷標準,做事情的時候,我也會問自己:

  • 方案的長期成本
  • 有沒有更穩定更容易維護的做法
  • 別人接手我的專案會不會痛苦

原本的我只想把事情做完,但按照這些標準做出來的改善,確實很有成就感。

寫鐵人賽時很多時候其實我很想草草了事。然而,想起前輩平時在工作上的叮嚀,讓我有動力好好把文章寫完整。如果前輩有看到我的文章的話,我想說的是:

「你對於工作的堅持確實影響了我,謝謝你。」


🔹 發文日誌

懷揣忐忑又有一點期待的心情出花
https://ithelp.ithome.com.tw/upload/images/20251015/20120069ocPdND22xO.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069GbWJTSUbQo.png

第三天凌晨發文突然卡住,心想今年又要烙賽了嗎?躺在床上懷疑人參 🫠
https://ithelp.ithome.com.tw/upload/images/20251015/20120069YFasc807Dk.png

還好工程團隊很厲害修好了,後來有發文成功
https://ithelp.ithome.com.tw/upload/images/20251015/20120069bTu3ElKicJ.png

https://ithelp.ithome.com.tw/upload/images/20251015/20120069IjwrwyNTHL.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069Tu9OYzpEp0.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069ylghJ2As8k.png
https://ithelp.ithome.com.tw/upload/images/20251015/201200698jx2lw7cgL.png
第8天,發現 <sub> 可以讓註解的字體變小,文章又要重新編寫 RRR

https://ithelp.ithome.com.tw/upload/images/20251015/20120069QhY5mWUmT4.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069OyMHiB6OBA.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069I7C9UgvToK.png

第11天,一篇文章的字數開始破萬了,有點擔心點進來的人被嚇屎...
不過前輩的文件比我寫的更周詳
https://ithelp.ithome.com.tw/upload/images/20251015/20120069WnscqaXvKm.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069VvDvz95rEH.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069ZAJrU70H6M.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069wuLEJJhRnw.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069Ot1LBFcHAO.png
第15天,太忙了 Errrr.. 先發文章後再修改囧
隔天發現有一大段都沒有寫到 XDDDDD 果然不能偷懶 😂🤣🤪😁
https://ithelp.ithome.com.tw/upload/images/20251015/2012006928ik0oYIr6.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069luBzDQbFkd.png
第17天,我討厭算數🫠
各種數字算錯至少迭代了四次的文章==
https://ithelp.ithome.com.tw/upload/images/20251015/20120069Lf5FTCJavi.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069TqTWSN9EwT.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069b2TVslMJ1a.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069ghws70J4X7.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069RkLALxbxO9.png
發現有個來自 Google 的大大 - Antonio Gulli跟我一樣愛寫長文,他甚至寫了四百多頁教人家要怎麼建構一個完整 AI 代理!不僅涵蓋我寫的範圍,而且還真的都附上可以驗證的程式碼,連結在這邊) ,需要的讀者歡迎取用。
https://ithelp.ithome.com.tw/upload/images/20251015/20120069tFwkszCEhu.png
https://ithelp.ithome.com.tw/upload/images/20251015/201200692O8ytPX9gg.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069uaWIvUaokF.png
難受,忘記截圖投稿成功的 Successful Message
沒事,自幹一個貼上。
https://ithelp.ithome.com.tw/upload/images/20251015/20120069C3F7vhaTCA.png
十月十號國慶日我在家裡寫鐵人賽🫠🤌🏻
https://ithelp.ithome.com.tw/upload/images/20251015/20120069STMvRCKrTq.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069fCzJsTHvSe.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069jQx1pikSTh.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069VEAT1CfChN.png
今年終於成功完賽,人生第一次完賽,真的有夠像馬拉松的 🌝
https://ithelp.ithome.com.tw/upload/images/20251015/20120069pLVR8m4gw8.png
https://ithelp.ithome.com.tw/upload/images/20251015/20120069Oz4UxgI3qI.png


🔹 寫文心得

藍色::內容複雜度
綠色:是文章產能

https://ithelp.ithome.com.tw/upload/images/20251015/20120069JkUgVVw2Hh.png

前面的文章配上 AI 助理幫忙整理格式和補充資料的部分還可以一天產個兩三篇,然而越到後期偏實作和實務的部分越多,一天寫一篇文章進度就很感人了 🥹。感謝我的 AI 助理,20美金一個月是我最多的預算,以後有賺錢再給你吃好料(?)。

基本上到後面要三天才能 初稿 一篇文章,尤其我有完美主義,常常寫了兩個小時要躺在地板上回血,再回來繼續寫文章。有時寫完了放著幾天回來看有些段落還是會有盲點以及邏輯不順之處,所以要不斷校正。剛發佈的文章也不一定是最正確的,只能祈禱有好心人願意留言指正,或是我自己發現。我常常覺得如果我不是剛好休息可以全職來寫,應該很容易像六年前的我ㄧ樣棄賽。

Day04 ~ Day 16 是 RAG 的教學篇章。我自己在寫的時候其實覺得很多主題都蠻有趣的,希望可以有時間寫完 day32 之後的補充章節;範例的程式裡有些參數調整一下或是更換模型會跑出截然不同的成果。不過每天的篇幅就是要在有限的空間內塞入重點,不然閱讀的人會很痛苦,我自己覺得很多天的篇幅已經快要超出讀者的耐性了🤣。

到 Day27 後面的實作功能開發其實還不打緊,大概三天其實就有個雛形可以部署;不過環境要串起來是真的難搞。EC2 免費的規格完全塞不進去 🫠🤌🏻🤌🏻🤌🏻🤌🏻🤌🏻🤌🏻🤌🏻🤌🏻 ,我在 Day28 算成本的時候因此重算三次。檢索的流程要和呼叫 LLM API 的邏輯拆開,這樣主程式還可以再瘦身一點。

Day29 嘗試 CloudflareGrafana Cloud 的時候有遇到一些坑,感謝論壇的前輩們發問, AI 助理並非萬能,該踩的雷還是得自己踩一遍才串得起來 XD。

最後,撰寫鐵人賽也是我給自己的里程碑。總覺得都在軟體業打滾這麼久,沒有留下些什麼甚是遺憾,如今也算完成了一樁心願。


上一篇
Day30 - 從 62% 到 75%+:Production Readiness 的最後一哩路
系列文
30 天帶你實戰 LLMOps:從 RAG 到觀測與部署31
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言