打字機效果
由於 AI 產生內容得靠伺服器運算後產生結果,資料多的話得等不少時間,若能產生資料後馬上分段送出,可大大提升使用者感受,要達到這種效果主要靠的是 S...
4-3 Gemini API: Embeddings 快速入門指南
Gemini API 生成最先進的文本嵌入。嵌入是一組浮點數,代表一個單詞、句子或段落的含...
個人背景
大家好,我是 BR,是熱衷於探索新技術和新知識的開發者、資工所研究生。從 2023 年開始接觸雲端運算和社群活動,陸續參與了 AWS、Google 和...
3-1 Gemini相關服務及其發展史簡述
Gemini APP / Gemini Advance
Gemini 是Google推出的人工智能助手,旨在提升用...
前言:
原本我是想使用 Huggingface 的 api 串接來實現這個教學的,不過因為我在東搞西搞之後發現要 huggingface pro 的訂閱才能使用...
前言
在 Day6 的時候我們提到當context length越長,KV cache也會越大,分配KV cache也成為一個挑戰的工作 🧠。在 Day12 學...