鐵人檔案
身為純前端的工程師, 對於雲端一直是霧煞煞, 覺得我蓋好網站打包(build)後, 找個支援nodeJs的託管丟上去, 可以訪問就是上雲了, 學習系統設計, 參加過一些google cloud的trainning後, 又覺得知識和系統的理解對不上, 但很多問題又會卡關在文件海之中, 今年有AI的幫助, 以對話代理(類似chat bot)當實做主題, 選gcp當雲端平台, 來理解上雲的面貌與知識吧
今天把agent透過api溝通的串接從REST改成雙向串流 從cx agent studio的文件 可以看出溝通介面的變更改為建立一個socket傳遞strea...
今天探索agent的安全性 核心威脅模型 部署 AI Agent 作為企業對外或對內的服務介面時，需要防禦兩類主要威脅： 1. 資訊洩漏（Prompt Extr...
Rate limit的用意是避免服務被濫用, 檢查的機制是在一定時間內被同一用戶呼叫的次數而限制又根據stream, 和request來做區分 stream是...
今天要做的服務邊界, 目的是防止攻擊者取得機敏資料, 我們要做的就是對gcp的api除了檢查身份, 還檢查發起的位置, 如此就算攻擊者取得service acc...
目前我們呼叫vertex AI的流量 是走cloud NAT出公網再打google的公開API endpoint, 今天要做的事把這條路徑改成私有網路直連 讓B...
今天要從dashboard來看 token消耗量 與對話量 這兩個可以從CES原生的metric取得 另外則是在bff的 /query /stream 補上結束...
Budget alert, 就是設定一個預算基準, 常見金額可能是每個月100美金 或是1000台幣, 預設會分成三次觸發分別在 50%, 80% 100% 寄...
之前我們bff有更新 需要推上cloud run更版,需要在本地進行build 再推image到gcp的registry後跑 gcloud run deploy...
針對gcp的學習, 這次以conversational agent當作實作目標來逐步學習 最主要的收穫是理解GCP的基礎, 如哪些要對外暴露, 那些只在gcp內...
今年第一次參加鐵人賽結果在day14因為忘記上傳而中斷有點可惜 但也就是今年的結果 在年初確認會參加鐵人賽就和AI切分30天份的單元最後留兩天進行心得整理 其實...
