iT邦幫忙

鐵人檔案

2026 iThome 鐵人賽
回列表
AI Engineering

Learning SRE for the AI Era:從 SRE Lab 到 Production AI Reliability 系列

本系列以概念+實作,從 SRE 基礎打造 AI SRE Lab。使用 FastAPI、Docker、Prometheus、Grafana、Loki、OpenTelemetry 與 LLM Tracing,實作 SLI/SLO、Error Budget、可觀測性、告警、事故處理與 CI/CD。

並探討 LLM、RAG、Agent 的 TTFT、檢索失敗、語意品質、安全與成本。Production AI 不會取代 SRE,而是將可靠性從 API 延伸到 Workflow、Model Behavior 與使用者任務成功。

參賽天數 3 天 | 共 44 篇文章 | 0 人訂閱 訂閱系列文 RSS系列文
DAY 3

Day 20(上)|Error Budget 與 Burn Rate:預算用完要真的改變行為

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:error budget 不是故障額度,而是 SLO 留下...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 20(下)|Error Budget 與 Burn Rate:預算用完要真的改變行為

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:算出 burn rate 只是前半段,真正決定行為的是把它...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 21(上)|Metrics、Logs、Traces:同一件事,三種問題

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:metrics 回答「有沒有問題」,logs 回答「發生了...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 21(下)|Metrics、Logs、Traces:同一件事,三種問題

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:trace 要拆到能做決定、metrics label 要...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 22(上)|Golden Signals、RED、USE:框架是起點,不是儀表板模板

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:Golden Signals、RED、USE 是選問題的框...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 22(下)|Golden Signals、RED、USE:框架是起點,不是儀表板模板

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:框架選對只是起點,真正驗證它有沒有用,要靠實作把三套框架接...

2026-10-05 ‧ 由 dstjustin 分享
DAY 3

Day 23(上)|LLM Observability:一條 Trace 要能還原工作流

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:LLM trace 的目標不是蒐集 prompt,而是用最...

2026-10-08 ‧ 由 dstjustin 分享
DAY 3

Day 23(下)|LLM Observability:一條 Trace 要能還原工作流

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:schema 只是紙上談兵,真正決定一條 trace 能不...

2026-10-08 ‧ 由 dstjustin 分享
DAY 3

Day 24(上)|Dashboard Design:首頁不是監控倉庫

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:好的 dashboard 由使用者影響往下鑽,第一頁先回答...

2026-10-08 ‧ 由 dstjustin 分享
DAY 3

Day 24(下)|Dashboard Design:首頁不是監控倉庫

GitHub:darkstar1227/learning-sre-for-ai-era 結論先說:一張圖光有正確的位置還不夠,query 語意、drill-...

2026-10-08 ‧ 由 dstjustin 分享