分享至
Ollama 是一個讓你在自己電腦上執行大型語言模型(LLM)的工具。它把下載、管理與執行模型這些流程做得很簡單,常用於離線聊天、程式輔助、私有資料問答等情境。
以下指令可以啟動 llam3.1 Model (第一次執行時,會需要一點時間進行下載)
ollama run llama3.1:latest
Ollama Server 預設啟用:http://localhost:11434 ,開啟瀏覽器可以看到以下畫面
Ollama API
以 Postman 測試 API
IT邦幫忙