鐵人賽文章已經步入尾聲了，前陣子透過一些程式碼的介紹及一些機器學習的概念深度學習的概念來介紹，而今天我們要來介紹人工智慧的另一個分支生成式AI。這項技術不僅在各種產業中蓬勃發展，還在不同應用領域中展現出了巨大的潛力，今天這篇文章我們就一起來來深入探討生成式AI的原理、技術以及面臨的挑戰。
那什麼是生成式AI呢？生成式AI（Generative AI）是一種能夠根據輸入的資料，創造全新內容的技術。而他的特點是能夠學習大量的資料並生成從全新的資料，像是圖像、文字還是音樂。與傳統的AI系統不同，生成式AI並非僅僅做出決策或分類，而是創造出新穎、類似於人類創造的內容。
生成式AI的典型應用包括生成圖像（如DALL·E或MidJourney）、文字的生（如ChatGPT）、生成音樂(Suno AI)，甚至還能生成影片和3D模型。它讓AI不僅能模仿人類的行為，還能與人類合作創造更多的可能性。
這邊可以搭配一個SUNO AI 的CEO現場製作音樂的過程，來看看生成式AI的厲害之處。
生成式AI的核心原理是利用機器學習模型，特別是深度學習中的生成模型（Generative Models），來學習輸入數據的分佈，並從中抽取樣本以生成新內容。而常見的方法有很多種，像是：
生成對抗網路（GANs, Generative Adversarial Networks）
在前幾天的文章有提及，如果還沒看過詳細介紹的可以去看看，我今天不會著重介紹他，在GANs中常常被廣泛應用於圖像生成、圖像修復、風格轉換等領域。
擴散模型
擴散模型是一種基於概率的生成模型，其核心思想是模擬數據從噪聲到清晰樣本的過程。透過對數據樣本進行精心控制的隨機變化，並反向消除雜訊，能夠生成品質很好且逼真的資料。讓他在生成式AI領域中具有重要的地位。
相信大家在一定對ChatGPT不陌生，甚至跟他是形影不理的好朋友，在文字生成上，他可謂是最具代表性的，就連自己家裡連手機都不太會用的家人都略有耳聞他的厲害之處，那生成式AI究竟會帶來甚麼樣的變化？
前面提到了非常多生成式AI的創造性及他的無限潛力，感覺是無比的美好，但是其實他也存在著不少的爭議。當AIGC正帶來豐富的創意應用的同時，這些技術的應用同時也引發了一系列倫理問題，這些問題不僅涉及法律層面，也與社會、經濟和文化有關。
版權與知識產權問題
前面提到的，生成式AI系統常常需要大量數據來進行訓練，而這些數據可能是受版權保護的內容。而Suno與Udio這兩個生成式AI的公司都被指控使用了數百首受版權保護的歌曲來訓練他們的音樂生成AI，這構成了大規模的版權侵害。這種情況表明，AI在使用創作內容進行訓練時，可能會侵犯原創藝術家或公司的知識產權。
所以生成式AI這不僅涉及音樂，許多其他領域，像是文字、影像、影片等都可能面臨類似的挑戰及問題。所以也引發了廣泛的法律爭議，因為目前對於生成式AI如何合法使用版權素材仍缺乏明確的法律規範。
參考連結
對人類創作者的影響
一樣以Suno跟Udio這兩個生成式AI舉例，這兩個製作音樂的生成式AI能夠生成與人類藝術作品極為相似的內容，甚至可能讓人難以區分是AI創作還是人類創作。在這個案例中，Suno與Udio的AI能夠模仿知名歌手的聲音，生成類似於著名歌曲的作品，這讓音樂產業擔心這些AI作品將與人類創作者的作品直接競爭，從而降低原創作品的價值，損害這些藝術家的生計。
AI生成的內容如果能在市場上自由流通，可能會淹沒人類創作者的作品，甚至影響整個創意產業的經濟結構。
偽造與虛假訊息的生成
生成式AI技術可以用來生成高度真實的虛假資訊，包括圖像、聲音和文本。這些內容可能被惡意用於生成假新聞、深偽（deepfake）影片、虛假的語音記錄等，從而誤導公眾，操縱輿論，甚至影響政治決策。
一個廣為人知的事件當然是一個台灣網紅小玉的換臉事件，他利用Deepfake技術非法製作假色情影片，並將台灣多位女藝人的臉部合成到色情影片中，這些影片隨後在網路上販售。由於這些影片的逼真度極高，很多人難以辨別真假，受害女藝人也因此蒙受極大的精神壓力和名譽損害。
透過這起事件其實可以發現，生成式AI的技術已經越來越厲害了，所以如果被利用來製作虛假、不當或侵犯隱私的內容，可能會造成我們的世界中存在著越來越多的虛假訊息與誤導性內容，對社會穩定和個人隱私都構成非常嚴重的威脅。這不僅是對科技應用的一種濫用，也是對人類信任體系的一次重大挑戰。
其實看了這麼多案例，生成式AI的發展無疑帶來了眾多變化，而我們也不難發現生成式AI是一把雙面刃。在我們適當利用的情況下，它可以增強創意、加速工作流程，甚至有潛力改變整個產業的運作方式。但是！！如果在被濫用的情況下，生成式AI也可能帶來重大社會問題，像是侵犯隱私、散布虛假資訊、加劇社會偏見等風險。
雖然生成式AI的進步帶來了無數創新的應用，但我們必須正視他潛在的倫理風險。在這個快速變化的科技時代，確保AI技術的透明性和合法使用，並防止其被惡意利用，是我們共同面臨且必須解決的挑戰。技術的進步應該為人類服務，而不是成為社會危機的根源。因此，我們需要在發展生成式AI的同時，制定相應的規範與防範措施，以確保這項技術能夠被用於促進人類進步而不是造成社會動盪。
iThome鐵人賽
看影片追技術