##系列主旨

教你如何在企業內部建構生成式 AI（Generative AI, LLM）應用流程，從模型選型、提示工程到知識檢索與 API 部署，快速打造智慧助理、客服與內部知識問答系統。

**Part 1：模型選型與部署

目標

理解不同 LLM（GPT、LLaMA、Claude 等）的特性並完成初步串接。

技術：OpenAI API、HuggingFace transformers、llama.cpp

流程圖描述：

需求分析 → 模型選型（雲端 or 自訓）→ API 串接 → 測試響應時間與成本

from openai import OpenAI

client = OpenAI(api_key="YOUR_KEY")
resp = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role":"user","content":"請幫我總結這份會議紀錄"}]
)
print(resp.choices[0].message.content)

**Part 2：Prompt Engineering 技巧

目標

透過提示工程提升模型輸出品質。

技術：Chain-of-Thought、Few-shot、Role Prompting

流程圖描述：

需求 → 設計 prompt → 測試 → 優化 → Prompt Template 化

template = """
你是一位專業法務顧問，請用條列方式摘要以下合約內容：
{contract_text}
"""
msg = template.format(contract_text=open('contract.txt').read())
resp = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role":"system","content":"你是法務顧問"},
              {"role":"user","content":msg}]
)

**Part 3：向量檢索與知識庫（RAG 架構）

目標

讓模型能檢索公司內部知識庫，回答專屬領域問題。

技術：langchain、FAISS、ChromaDB

流程圖描述：

文件 → 分段 → 向量嵌入 → 向量資料庫 → RAG → 回答

from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import FAISS
from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI

emb = OpenAIEmbeddings()
db = FAISS.from_texts(["公司制度","員工手冊"], embedding=emb)
qa = RetrievalQA.from_chain_type(
    llm=ChatOpenAI(model="gpt-4o"),
    retriever=db.as_retriever()
)
print(qa.run("請解釋我們公司的請假流程"))

**Part 4：API 產品化與部署

目標

將生成式 AI 功能封裝為可重用 API。

技術：FastAPI、Docker

流程圖描述：

LLM + 檢索 → REST API → 前端/Line Bot → 使用者

**Part 4：API 產品化與部署

目標

將生成式 AI 功能封裝為可重用 API。

技術：FastAPI、Docker

流程圖描述：

LLM + 檢索 → REST API → 前端/Line Bot → 使用者

from fastapi import FastAPI, Request
app = FastAPI()

@app.post("/ask")
async def ask(req: Request):
    data = await req.json()
    ans = qa.run(data["question"])
    return {"answer": ans}

結論與效益

企業能快速導入 GenAI，減少客服人力、提升回覆效率並活化內部知識。