生成式 AI 的出現，為人類帶來前所未有的便利與創意可能，但同時也伴隨著倫理與安全上的隱憂。若未加以規範與妥善使用，這項技術可能會衍生新的社會風險。

首先，在 資訊真實性 上，生成式 AI 可以製造看似真實的文字、圖片與影音內容，這讓假新聞、偽造證據、深偽影像（deepfake）更容易被生成與傳播。若缺乏辨識與管控，社會將面臨資訊氾濫與信任危機。

其次，AI 的 偏見與歧視問題 也是一大挑戰。模型的訓練資料來自人類既有的網路資訊，若其中存在性別、種族或文化偏見，AI 生成的內容就可能延續甚至放大這些問題，進而影響公平性與社會公正。

在 安全層面，AI 可能被惡意利用，例如自動生成釣魚郵件、惡意程式碼，甚至是假冒他人身分進行詐騙。這些攻擊行為隱蔽性強，增加了資訊安全防護的難度。

此外， 智慧財產權 也值得關注。AI 在創作時是否侵犯原作者的作品？生成內容的版權歸屬該算 AI 工具開發者、使用者，還是其他人？這些問題至今尚無一致答案。

最後， 責任歸屬 亦是重要議題。如果 AI 生成的內容導致法律糾紛或社會問題，究竟該由模型開發者、平台提供者還是使用者負責？這需要跨國法律與政策的共同討論與制定。

總結來說，生成式 AI 的倫理與安全挑戰，提醒我們在享受技術便利的同時，也必須建立規範與監管，強化透明度與負責任的使用，才能確保這項技術對社會發揮正面價值。