iT邦幫忙

2023 iThome 鐵人賽

DAY 2
2
AI & Data

跟著 OXXO 一起玩 AIGC ( 生成式 AI )系列 第 2

( Day 2 ) 生成式 AI - 認識 ChatGPT

  • 分享至 

  • xImage
  •  

近年來隨著人中智慧的蓬勃發展、大型語言模型的興起,使得人機對話成為一個重要的應用領域,2022 年底,OpenAI 推出 ChatGPT 自然語言生成式模型,引起了廣泛的關注和興趣,這篇文章將探索 ChatGPT 的發展歷程、應用層面以及對人類未來的影響。

原文參考:認識 ChatGPT

什麼是 GPT?

GPT ( Generative Pre-trained Transformer ) 是一種基於 Transformer 模型的語言生成模型,廣泛應用於機器翻譯、文本生成、對話系統等各種應用領域。

  • GGenerative ( 生成式模型 ),根據大量的訓練數據,學習自然語言的結構和模式,生成對話文字。
  • PPre-trained ( 預訓練 ),基於大量數據訓練模型,使得模型有更好的特徵提取能力。
  • TTransformer ( 轉換器 ),學習文字結構和上下文關係,產生符合語法和語義的對話。

ChatGPT 教學 - 認識 ChatGPT - 什麼是 GPT?

GPT 的發展歷史可以追溯到 2018 年,當時由 OpenAI 首次提出。GPT 的訓練方式是基於無監督學習,使用大量的文本數據進行預訓練,透過預測下一個詞的任務,模型能夠學習到人類語言的結構、語義和邏輯,下方表格列出 GPT 的發展歷史:

年份 版本 重要發展
2018 GPT-1 由 OpenAI 發佈,是第一個基於深度學習的大型語言模型,可以生成自然語言文本。
2019 GPT-2 具有 1.5 億個參數。GPT-2 能夠生成高品質的自然語言文本,並且具有多項語言處理能力,由於擔憂 GPT-2 可能被用於偽造新聞等危險行為,OpenAI 決定不立即公開。
2020 CPT-3 具有 175 億個參數,被認為是當時最先進的語言模型,可以應用於自然語言生成、語言理解、機器翻譯和對話式應用等領域,OpenAI 開始與各種公司合作,將 GPT-3 的技術應用到各種商業產品和服務中。
2021 GPT-3.5 包含更多的語言模型和更高效的計算方法,提高了模型的性能和效率。
2022 ChatGPT API 開放 GPT-3 的應用接口,讓開發者可以更輕鬆地使用 GPT-3 技術開發各種應用和產品。
2023 CPT-4 模型參數量高達 40 兆,能夠更好地學習和理解自然語言的語義和語境,並能讀取圖片、網頁和文件。

GPT 的應用範圍非常廣泛,可以應用在翻譯、文字生成、對話系統,資訊檢索、教育、甚至是創作領域,下方列出一些常見的 GPT 應用:

應用範圍 說明
自動翻譯 根據原生語言生成目標語言。
產生文字 產生文章、新聞、故事等各種文字內容。
資訊檢索 進行查詢並歸納為答案。
創作領域 產生文章、詩歌、劇本等文學作品,或提供靈感與想法。
教育學習 提供個性化的教學內容與技術指導。

然而,GPT 也面臨著一些挑戰和風險。由於 GPT 是通過大量數據訓練而來,可能存在著偏見和不準確性,也可能生成含有歧視性、虛假或不當內容的回應,因此濫用 GTP 也可能產生虛假資訊、欺詐行為和隱私問題,需要制定相應的監管和安全措施。但是總結來說,GPT 作為一種強大的語言生成模型,取得了重大的發展和應用。在應用的同時,也需要關注其潛在的風險,並采取措施來解決以確保 GPT 能夠為人類社會帶來積極和正面的影響

ChatGPT 教學 - 認識 ChatGPT - GPT 的應用範圍非常廣泛

什麼是 ChatGPT?

ChatGPT 是建立在 OpenAI GPT 模型的「對話」生成系統,而 OpenAI是一家成立於 2015 年的人工智慧研究實驗室,致力於推動人工智慧技術的發展和應用,發展過程中,OpenAI 吸引了眾多重要的投資者和合作夥伴,其中一位最重要的投資者是伊隆馬斯克 ( Elon Musk ),他同時也是 OpenAI 的共同創辦人,此外,OpenAI 還吸引了其他包括微軟 ( Microsoft )、亞馬遜 ( Amazon ) 和戴森 ( Dyson ) 等知名科技公司的投資和合作,這些投資者的資金支持扮演了至關重要的作用,不僅替 OpenAI 打開了市場,更促進了技術的應用和商業化。

馬斯克 2018 年離開 OpenAI 後,OpenAI 開始設立了以營利為目的的子公司以及相關產品模式,微軟更加碼提供數十億美元的資助,這也是為什麼馬斯克在 2023 年會在推特上表示與過去的目標「Open」有所不同的原因。

ChatGPT 教學 - 認識 ChatGPT - 什麼是 ChatGPT?

ChatGPT 可以做什麼?

由於 ChatGPT 的建立在 GPT 的基礎之上,可以透過大量的無監督學習,對大規模的文本數據進行預測任務,ChatGPT 的模型能夠理解對話的語境和連貫性,並學習到常見的對話模式和用語。當模型與人類操作者進行對話並進一步微調,就能提高其回答問題的準確性和生成合理的回應,ChatGPT 的出現將對人類未來產生深遠的影響,下方列出 ChatGPT 的常見應用:

  • 客戶服務和支援:提供自動化的客戶服務和解答常見問題,減輕人工客服的負擔。
  • 虛擬助手:擔任個人助理的角色,進行回答問題、行程管理、和提供建議。
  • 程式設計:提供相關程式碼,或針對程式碼進行除錯和改善。
  • 教育:客製化的虛擬老師,回答學習上的問題、提供解釋和指導。
  • 創意寫作:生成故事、詩歌和劇本等創意作品,為作家和創作者提供靈感和協助。
  • 翻譯和語言學習:協助練習外語對話、提供語法和詞彙建議。
  • 專業知識:提供各個領域的專業知識,回答醫學、法律、科學等方面的問題。
  • 市場研究:分析大量的市場數據和消費者反饋,提供更多商業決策參考。
  • 心理輔導:提供心理支持和輔導,幫助人們處理情緒和壓力。
  • 健康和醫療:提供基本的健康資訊、回答健康問題和提供健康建議。
  • 新聞和資訊:提供即時的新聞資訊、天氣預報、股票報價等,幫助人們保持與世界的聯繫。
  • 娛樂和休閒:進行有趣的對話、玩遊戲、解謎等,提供娛樂和休閒的樂趣。
  • 智慧家庭和物聯網:控制智慧家庭或物聯網設備、回答問題和提供指示。
  • 社交媒體和聊天應用:在社交媒體平台或聊天應用中提供對話和互動。

ChatGPT 教學 - 認識 ChatGPT - ChatGPT 可以做什麼?

ChatGPT 的資料從何而來?

ChatGPT 使用了大量的網路文字資料,例如維基百科、網際網路文章、書籍、新聞...等,這些資料被用來訓練模型,使其能夠學習語言的結構、語義和常見的知識。雖然 ChatGPT 在訓練時並沒有人類的介入協助,但在訓練資料的收集和前處理過程中,則會需要人類的協助,包括對資料進行篩選、標記或驗證等工作,然而,模型的訓練本身並不需要人類的指導或監督

由於 ChatGPT 是基於 GPT-3.5 架構的 ChatGPT 模型,使用的資料的年份範圍是截至 2021 年 9 月,所以回答的知識都會屬於這個時間範圍內的資訊 ( GPT-4 可以讀取外部資料 ),如果超出這個範圍的新聞、事件或科技發展,就無法正確回答。此外,ChatGPT 沒有自己的主觀判斷、真實理解或記憶,因此對話時只會根據於先前訓練過的模式、資料或紀錄進行相關回應

ChatGPT 教學 - 認識 ChatGPT - 什麼是 ChatGPT?

小結

ChatGPT 是人工智慧發展 ( 或人類發展 ) 中的一個重要歷程碑,透過強大的語言生成能力使得人機對話成為現實,ChatGPT 的應用層面廣泛,從傳統客服到教育,甚至延伸到創作和內容生成領域,都能夠受益於其強大的對話能力。然而,也需要警惕技術濫用和相關風險,並努力解決模型的偏見和不準確性等問題。隨著技術的進一步發展和應用的拓展,可以期待 ChatGPT 在人類未來的更廣泛影響和貢獻。

更多教學

大家好,我是 OXXO,是個即將邁入中年的斜槓青年,我有個超過一千篇教學的 STEAM 教育學習網,有興趣可以參考下方連結呦~ ^_^


上一篇
( Day 1 ) 關於生成式 AI ( AIGC )
下一篇
( Day 3 ) 生成式 AI - 開始使用 ChatGPT
系列文
跟著 OXXO 一起玩 AIGC ( 生成式 AI )50
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

1 則留言

0
hlb
iT邦新手 5 級 ‧ 2023-11-03 22:48:43

GPT-2 1.5B, GPT-3 175B,B 是十億喔......

我要留言

立即登入留言