前言 - 什麼是Batching?
先前在 Day4 提到的吞吐量 (Throughput) 🚀 是伺服器在一定時間內可以處理的請求數量。透過增加吞吐量,可以同...
4-6 Gemini 學習的資源 ex: cookbook 官網
官網文件
Gemini API 文檔概述了如何利用 Google 的最新 AI 模型來開發應...
前言:
原本想使用huggingface API endpoint 加上免費翻譯的API , 不過因為這幾天比較沒時間,有時間再做。
向量儲存與檢索器:
此範例...
1. 導出 API 請求
導出單個請求:
選擇請求:在 Postman 中,找到你想要導出的請求。
點擊 "..." 菜單:在請求右側...
LLM 簡介與架構
1. 簡介
大型語言模型(LLM)在自然語言處理(NLP)領域取得了顯著的進步。這些模型大多基於Transformer架構,特別是解碼器部分...
1-3 主流大型語言模型(LLM)的對比與評價
在實際操作中(2024.07),筆者發現 Gemini API 在程式碼生成和推理兩個方面的表現上,尚未達到其他...