iT邦幫忙

2025 iThome 鐵人賽

DAY 24
0
AI & Data

認識生成式AI的結構及運作原理系列 第 24

AI會瘋狂犯錯? 不是歐,不是這樣的歐

  • 分享至 

  • xImage
  •  

在生成式AI的文字世界裡,我們往往驚訝於它能產生自然流暢、語法完美的句子,但有趣的是,研究人員發現:AI 有時候也會「故意犯錯」。這些錯誤並非演算法缺陷,而是模型在模仿人類書寫風格時,學會了「不完美」這件事。在某些情境下,這些錯字、重複字或語句瑕疵,反而讓內容顯得更真實、更具人味。

這一現象源自於語言模型的訓練方式,生成式AI(如GPT或Gemini)是透過分析大量人類撰寫的文字資料進行學習。這些資料來自網路、書籍、社群貼文或論壇,其中自然包含了許多非正式語言、拼字錯誤、打字錯誤,甚至口語表達。模型在學習這些語料時,不會區分「對」或「錯」,而是根據統計規律推測「在這個語境下,最常見的字詞接續是什麼」。因此,如果在社群語料中「哈哈哈」或「sooo good」出現頻率很高,模型也會認為那是自然語言的一部分。

更有趣的是,當模型被要求模仿特定身份(例如學生、部落客或即時聊天對話),它可能會刻意產生錯字或口語化拼法,讓語氣更貼近人類。例如,它可能輸出「真的超好看ㄟ!」或「omg這也太誇張了吧」,這種帶有非正式結構的句子,實際上是AI模仿人類語氣的一種策略,這種能力讓生成式AI在角色扮演、對話模擬與社群行銷中更具真實感。

然而,這種「模仿錯字」的行為在正式場合卻可能引發問題,例如在學術寫作、醫療建議或法律文件中,錯字可能造成誤解或降低專業可信度。因此,AI系統通常會根據用途設計不同的語言風格權重,在正式模式下強調正確性,在娛樂或對話模式中保留自然錯誤。

總結來說,AI會模仿人類錯字的現象,反映了它不僅在學習語言規則,更在學習語言背後的社會行為與表達習慣,對 AI來說,「偶爾犯錯」反而是一種更高層次的擬人表現,讓它看起來不像冰冷的機器,而更像是一個會打字、有情緒、有語氣的人。


上一篇
AI 的「知識」其實會過期?
下一篇
AI 其實能創造「不存在的學者」
系列文
認識生成式AI的結構及運作原理26
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言