iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

Learning SRE for the AI Era:從 SRE Lab 到 Production AI Reliability 系列

本系列以概念+實作,從 SRE 基礎打造 AI SRE Lab。使用 FastAPI、Docker、Prometheus、Grafana、Loki、OpenTelemetry 與 LLM Tracing,實作 SLI/SLO、Error Budget、可觀測性、告警、事故處理與 CI/CD。

並探討 LLM、RAG、Agent 的 TTFT、檢索失敗、語意品質、安全與成本。Production AI 不會取代 SRE,而是將可靠性從 API 延伸到 Workflow、Model Behavior 與使用者任務成功。

參賽天數 3 天 | 共 44 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 3

Day 10(上)|Fault、Error、Failure:別把警報名稱當成根因

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:Fault、Error、Failure 位在不同層次。先壓...

2026-09-21 ‧ 由 dstjustin 分享
DAY 3

Day 11(上)|Production Failure Modes:先替系統想好難看的死法

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:failure mode 不是一張「可能出錯」的清單,而...

2026-09-21 ‧ 由 dstjustin 分享
DAY 3

Day 10(下)|Fault、Error、Failure:別把警報名稱當成根因

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:因果鏈只有寫在文章裡不算數,要能在 telemetry 裡...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 11(下)|Production Failure Modes:先替系統想好難看的死法

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:configuration failure 最快發生也最...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 12(上)|AI Workflow Failure Modes:模型有回話,不等於工作完成

GitHub:darkstar1227/learning-sre-for-ai-era **一句話先講完:**AI workflow 的 failure...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 12(下)|AI Workflow Failure Modes:模型有回話,不等於工作完成

GitHub:darkstar1227/learning-sre-for-ai-era **一句話先講完:**同一個 request 能不能被安全交付,不...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 13(上)|SPOF、Redundancy、Failover:備援不是多開一台就結束

GitHub:darkstar1227/learning-sre-for-ai-era **一句話先講完:**只要一個元件失效就讓使用者工作無法完成,它就...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 13(下)|SPOF、Redundancy、Failover:備援不是多開一台就結束

GitHub:darkstar1227/learning-sre-for-ai-era **一句話先講完:**failover 能不能真的接手,不能只看架...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 14(上)|SLI、SLO、SLA:先量承諾,再談百分比

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:SLI 是量測結果,SLO 是團隊的目標,SLA 是對外承...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 14(下)|SLI、SLO、SLA:先量承諾,再談百分比

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:分子分母定義得再漂亮,沒量出來、沒告警規則接住,也只是一份...

2026-10-05 ‧ 由 dstjustin 分享