On Large Language Models Safety, Security, and Privacy: A Survey (Journal of Electronic Science and Technology, ~2025)

1. 核心問題與動機（Core Problems and Motivations）

大型語言模型（LLMs）如 GPT 系列已在機器翻譯、智能對話、內容生成等領域帶來革命性影響，但其廣泛部署也暴露了嚴重的信任危機。論文指出，LLMs 面臨的主要挑戰包括幻覺（hallucinations）、後門攻擊（backdoor attacks）、隱私洩露（privacy leakage） 等，這些問題嚴重削弱模型的可靠性和有效性。

關鍵動機：

• 先前文獻常將 Safety（安全性）、Security（安全） 和 Privacy（隱私） 混淆使用，缺乏清晰界定。這導致研究碎片化，難以系統性解決問題。
• 作者提出更清晰、合理的定義框架：在 LLMs 情境下，Safety 聚焦於模型輸出是否符合人類價值觀（如避免有害、偏見或錯誤內容）；Security 強調模型抵抗外部攻擊（如提示注入、資料中毒）的能力；Privacy 則關注防止訓練資料或使用者輸入中的敏感資訊洩露。
• 動機還包括 LLMs 的雙刃劍特性：一方面提升生產力，另一方面在訓練（pre-training/fine-tuning）和推論（inference）階段都存在系統性漏洞。論文強調，隨著 LLMs 應用到醫療、金融、自動駕駛等高風險領域，這些問題若未解決，可能引發嚴重社會與倫理後果。

論文透過全面文獻回顧，填補定義混亂的空白，並為後續研究提供結構化 taxonomy（分類體系），涵蓋訓練與推論兩個主要階段。

2. 結果／成果（Results/Achievements）

論文的主要成果是提供一個系統性綜述框架，而非提出新演算法。具體包括：

定義澄清與 Taxonomy
明確區分 Safety、Security、Privacy 三者，並繪製 LLMs 生命週期中的漏洞與防禦映射圖（涵蓋訓練與推論階段）。這是相較先前工作的重大改進，提供更合理的分類基礎。

漏洞與防禦全面概述：

• Safety 相關：討論幻覺、對齊（alignment）問題、偏見生成等。防禦包括 RLHF（Reinforcement Learning from Human Feedback）、DPO 等對齊技術，以及安全提示工程。
• Security 相關：涵蓋提示注入（prompt injection）、jailbreaking、後門攻擊、資料中毒（data poisoning）、模型提取攻擊等。防禦機制包括對抗訓練、輸入過濾、模型監控等。
• Privacy 相關：聚焦成員推斷攻擊（Membership Inference Attacks）、訓練資料提取、PII（Personally Identifiable Information）洩露等。防禦包括差分隱私（Differential Privacy）、資料清洗、聯邦學習等。

獨特貢獻：
強調 LLMs 因規模巨大、黑箱特性與上下文依賴性，帶來獨特的挑戰（如在推論階段的動態攻擊更難防禦）。論文整理了大量最新文獻（截至 2025 年初），並指出多數防禦在真實大規模部署中的局限性。

整體成果為研究社群提供了一份清晰的「地圖」，幫助開發者與研究者快速定位特定問題並選擇對應防禦策略。

3. 分析與洞見（Analysis and Insights）

多角度分析：

技術層面：
LLMs 的 Transformer 架構使其易受梯度洩露或提示操縱影響。訓練階段的資料污染會放大到整個模型，而推論階段的 adversarial prompts 則能繞過安全對齊。論文強調，傳統機器學習的安全技術（如差分隱私）在 LLMs 上需重新適配，因為模型參數規模龐大，計算成本高昂。

倫理與社會層面：
Safety 不僅是技術問題，還涉及價值對齊——模型可能在「幫助性」與「無害性」間權衡失衡。Privacy 則觸及 GDPR、CCPA 等法規合規，洩露風險可能導致身份盜用或企業機密外流。

邊緣案例與細微差別：

• 邊緣案例：開放原始碼 vs. 封閉原始碼模型的安全差異；多語言或低資源語言下的不平等漏洞；自主代理（Agent）情境下，Security 與 Safety 的交互風險更高（例如代理自主決策引發連鎖危害）。
• 權衡（Trade-offs）：加強 Privacy（例如 DP-SGD）常犧牲模型效用；過度 Safety 對齊可能降低創造力或有用性。
• 相關考量：與其他領域（如電腦視覺）的比較，LLMs 的自然語言特性使其攻擊更「人性化」（如社會工程攻擊），防禦需結合人類認知模型。

主要洞見：

• 現有防禦多為被動或碎片化，缺乏端到端（end-to-end）解決方案。LLMs 的 emergent abilities 使傳統評估指標失效，需開發新 metrics（如 tail risk 評估）。
• 未來威脅可能來自模型自身演化（如 scheming behavior in agents）。論文呼籲跨學科合作，結合法律、倫理與技術。

4. 結論（Conclusions）

論文結論強調，儘管 LLMs 帶來巨大潛力，但 Safety、Security、Privacy 是其可信賴部署的基石。作者建議未來研究方向包括：

• 開發更 robust 的對齊方法與混合防禦框架；
• 探索可解釋性（interpretability）以提升透明度；
• 針對實際應用（如邊緣計算、多模態 LLMs）的專門研究；
• 建立標準化評估基準與法規框架。

總而言之，這篇綜述不僅總結現況，更提供清晰定義與前瞻視野，呼籲社群共同努力提升 LLMs 的穩健性與可靠性，以實現安全、可信的人工智慧未來。

文章連結：

• ScienceDirect：https://www.sciencedirect.com/science/article/pii/S1674862X25000023
• DOI：10.1016/j.jnlest.2025.100301
• ResearchGate：https://www.researchgate.net/publication/387878054_On_large_language_models_safety_security_and_privacy_A_survey