1. 幻覺 (Hallucination)：編造的事實

隨著大型語言模型 (LLM) 應用日益普及，我們必須正視其帶來的安全性與倫理挑戰。理解這些潛在風險，是負責任地開發和部署 AI 的關鍵。

定義：幻覺指的是模型在缺乏事實依據時，仍會生成看似合理但實際上錯誤或虛假的資訊。

核心原因與風險

• 本質問題：模型被訓練來生成連貫的文本（追求流暢度），而非事實（追求真實性）。
• 風險：在醫療、法律、金融等高風險場景，誤導性的幻覺可能導致嚴重後果。

應對策略 (從技術到流程)

2. 偏見 (Bias)

定義：LLM 訓練於海量的網路資料，自然繼承了社會中存在的各種偏見（性別、種族、文化、職業等），並可能在輸出中複製甚至放大這些刻板印象。

風險與表現

• 不公平性：模型可能基於刻板印象做出歧視性判斷（例如在招聘、評分系統中）。
• 強化刻板印象：將某些職業或特質與特定群體不當連結。

應對策略 (從數據到訓練)

1. 數據策劃 (Data Curation)：在訓練前對數據集進行去偏 (Debiasing)、平衡和清理。
2. 安全對齊 (Alignment)：使用 RLHF (人類回饋強化學習) 等技術，透過人類標註來懲罰帶有偏見的輸出。
3. 對抗性學習 (Adversarial Training)：在訓練過程中加入特定的干預，讓模型學會如何抑制和辨識偏見。
4. 紅隊測試 (Red Teaming)：招募多樣化人員來測試模型是否會生成帶有偏見或有害的內容。

3. 資料隱私與濫用 (Privacy and Misuse)

🔹 資料隱私挑戰

1. 訓練資料洩露：模型可能背誦 (Memorization) 出訓練集中存在的個人身份資訊 (PII)。
2. 推理資料洩露：在 API 模式下，用戶輸入的敏感 Prompt 會傳輸到外部服務商伺服器（如企業員工將內部文件輸入 ChatGPT 導致機密外洩）。

應對隱私風險

• 本地模型部署 (On-premise)：在企業內部伺服器運行模型，確保敏感資料不離境。
• 差分隱私 (Differential Privacy)：在訓練數據中加入數學噪聲，保護訓練集的個體隱私，防止反推個人資料。
• 資料過濾與匿名化：在數據進入訓練管線前，移除或隱藏個人身份資訊。

🔹 濫用與倫理挑戰

1. 惡意生成：LLM 被用來大規模生成假新聞、網路詐騙、惡意程式碼或仇恨言論。
2. 責任歸屬：若模型提供錯誤的醫療建議或法律意見，最終的責任由誰承擔？
3. 透明度：使用者是否能知道模型的訓練數據來源、限制和風險？