iT邦幫忙

2026 iThome 鐵人賽

DAY 25
0

十五、十六、十七篇聚焦的是網站架構進入 AI 原生時代後的最新演進。前者從 AI 原生應用架構與 Agent Infra 出發,說明雲原生不再只是承載服務,而是要進一步支撐模型推理、Agent 協作、記憶管理、評估與安全治理;後者則延伸到 AI 網關、AIOps 與大型電商實戰,展示 AI 能力如何真正落到搜尋推薦、客服、導購與核心交易鏈路;最後再回到 ACK 的新能力與架構原則,整理從單體到 AI 原生的完整演進脈絡。

這兩篇涵蓋的重點,首先是 AI 原生應用架構的基本概念。網站不再只是前後端與資料庫的組合,而是要加入 AI 運行時、AI 網關、AI MQ、Memory、可觀測性、評估與安全等能力,形成能支援 Agent 長時運行與多步驟任務的基礎設施。接著,透過 FunctionAI、AWS AgentCore、Azure 與各類 Serverless 方案,解決會話親和、狀態維持與彈性擴縮問題,讓 AI 應用能穩定服務真實流量。

在協議與託管層面,MCP、A2A 與 Kagent on Knative 代表的是 Agent 協議標準化與 Serverless 化的方向,也意味著未來網站上的 AI 能力不只是單一模型呼叫,而是可組裝、可治理、可觀測的服務系統。進一步看,AI 網關則承擔推理路由、Token 限流、多模型適配與 Gateway API 整合,讓不同模型、不同供應商、不同成本策略可以被統一管理。

第二個重點是 AI 在實際網站業務中的落地。淘寶的案例特別強調,AI 不是獨立功能,而是滲透到搜索推薦全圖架構、OpenSearch 百萬 QPS、智能客服亞秒級回應,以及 Wenwen 生成式導購等核心場景。這些案例說明了 AI 原生架構真正的價值,不只是提升體驗,而是重構整個網站的流量入口、決策鏈路與服務效率。

最後,文章也會收束到 ACK 2025–2026 的新能力與架構選型原則,包括 Auto Mode、Virtual Node、ACK One 多集群與 AI Assistant,並回顧單體、分散式、微服務、雲原生到 AI 原生的演進路線。整體來說,這兩篇要傳達的是:網站架構正在從「支撐業務」進化為「支撐智能業務」,而真正關鍵的,不是是否採用 AI,而是能否建立一套可擴展、可治理、可回滾、可觀測的 AI 原生架構。


上一篇
day 24: 雲服務支援,生成式 AI 和邊緣運算
系列文
30 天打造我的個人雲端實驗室:用 Docker、Kubernetes、Flyte 和自建服務,重構手機與電腦的日常工作流 共 33 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言