ChatGPT 是由 OpenAI 開發的 大型語言模型對話系統,基於 GPT 系列模型(目前有 GPT-3.5 / GPT-4 / GPT-4o / GPT-4o-mini),它能夠進行自然語言對話、回答問題、生成內容、寫程式碼等等
[ 使用者輸入文字 / 圖片 / 語音 ]
↓
[ ChatGPT 前端 (Web / App / API) ]
↓
[ GPT 模型 (GPT-4o, GPT-4o-mini 等) ]
↓
[ AI 推理生成 ]
↓
[ 回覆文字 / 圖片 / 代碼 ]
pip install openai
如果想使用可部署在本機的 ChatGPT 類似模型,以下是幾個支持中文並開源的替代方案
名稱 | 中文能力 | 是否可本地部署 | 模型例子 |
---|---|---|---|
ChatGLM3 |
✅ | ✅ | THUDM/chatglm3-6b |
Qwen |
✅ | ✅ | Qwen/Qwen1.5-7B-Chat |
Yi-34B |
✅ | ✅ | 01-ai/Yi-34B-Chat |
LLaMA2中文版 |
⚠️(需微調) | ✅ | LLaMA2 微調中英文混合資料 |
可以使用 transformers 套件來調用本地模型
from transformers import AutoTokenizer, AutoModelForCausalLM, pipeline
tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm3-6b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("THUDM/chatglm3-6b", trust_remote_code=True).cuda()
pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)
result = pipe("用中文回答:台灣的首都是哪裡?", max_new_tokens=50)
print(result[0]["generated_text"])
如果不想自己寫程式,建議使用
🧠 Open WebUI:支援中文介面,簡單易用
💻 Ollama:快速下載模型並啟動中文 ChatGPT 介面(如 llama3:instruct, qwen:7b, chatglm3)
ollama run qwen:7b
然後配合 Open WebUI 使用
from openai import OpenAI
client = OpenAI(api_key="你的API金鑰")
response = client.chat.completions.create(
model="gpt-4o-mini", # 也可以換成 gpt-4o
messages=[
{"role": "system", "content": "你是一個友善的中文助理"},
{"role": "user", "content": "請用三句話介紹 ChatGPT"}
]
)
print(response.choices[0].message.content)
import OpenAI from "openai";
const openai = new OpenAI({ apiKey: "你的API金鑰" });
const completion = await openai.chat.completions.create({
model: "gpt-4o-mini",
messages: [
{ role: "system", content: "你是一個中文助理" },
{ role: "user", content: "請簡短介紹 ChatGPT" }
]
});
console.log(completion.choices[0].message.content);
用途 | 工具/程式碼方式 | 是否支援中文 |
---|---|---|
調用 ChatGPT 官方 |
openai.ChatCompletion | ✅(自動處理) |
開源中文模型 |
HuggingFace + transformers | ✅ |
簡單圖形界面 |
Open WebUI + Ollama | ✅(中文介面與中文模型) |