前言 欸,監控比談戀愛還難懂?
老實說,第一次聽到 Monitoring 跟 Observability,我的反應跟剛分手時一樣:「蛤?不是都差不多意思嗎?」...
在 AI 專案的真實運營中,「效能」與「成本」永遠是一體兩面。
隨著模型上線並持續被使用,如何控制運算支出、保持服務穩定,
成為每個 AI 團隊都必須面對的挑戰...
我的模型可以喂進整本哈利波特!!
每次有新的 AI 模型推出,我們總是會看到這樣的宣傳:「上下文窗口達到 XXX 萬個 tokens!可以容納 X 本哈利波特全...
前言
昨天你學過 LSTM但你肯定還搞不清楚它到底在做什麼,而今天我會帶你從零手刻一個雙層 LSTM,並套用在經典的 IMDB 影評情緒分類任務中。這篇重點不在...
D
昨天(Day 18)我們讓 Her 會「聽」:把 LINE 錄音轉成文字、再用 AI 回覆。今天把循環補完——讓 Bot 也能開口說話:把 AI 文字回覆丟...
如果要實作練習,就要尋找開源模型,gemma或著LLaMA都是很好的選擇,但對於設備較差的我來說Gemma這種輕量型模型比較好進行實作的部分,因此今天先來介紹之...