iT邦幫忙

2023 iThome 鐵人賽

DAY 7
2

簡介

有了 ChatGPT API 這種功能強大、操作方便、成本低廉的文字生成服務後,相關應用如雨後春筍般湧現,突破了過往各種 NLP 系統的一些侷限之處,大幅提升所有應用的可行性。今天就來介紹一些使用了 ChatGPT 的應用吧!

可愛貓貓 Day 7

(Powered By Microsoft Designer)

ChatPDF

ChatPDF 是個能夠上傳 PDF 並根據文件內容回答問題的應用。雖然之前已經介紹過 ChatGPT 的 PDF 插件,從時間軸來看,ChatGPT 的插件功能其實是在 ChatPDF 之後才推出的。這種文檔分析的應用,會出現是很自然也很必然的一件事情,無論是分析報表、閱讀論文,都會接觸到 PDF 文件。然而這些文件往往「又臭又長」,需要相當大的耐心才能把他看完。

這些應用運用了 ChatGPT 能夠快速閱讀理解文本,且具有強大摘要與問答能力的優點,協助我們解決長文本檢索的問題:

ChatPDF

不過從圖中可以看到,雖然進行摘要與簡單查詢是沒問題的,但是這種涉及頁數的詢問就很容易有問題,這是 Retrieval-Based 做法很常遇到的問題。筆者推測應該是因為作者在標記頁數資訊的時候,是使用英文 + 阿拉伯數字,但我的查詢卻是中文 + 中文數字導致檢索失敗的緣故。

筆者將 ChatPDF 評價為長文本摘要專家

CloudGPT

CloudGPT 是由 iKala 所開發的應用,主要面向雲端服務與資訊安全領域的問題。其詳細的做法並沒有被公開,但是從使用介面的表現來看,很有可能是類似檢索的方法。將各大雲端廠商的文件集合起來建立索引,並根據使用者的詢問搜尋相關文件,將這些文件集合起來放在 Prompt 裡面一同詢問 ChatGPT 得到答案。

CloudGPT-1

值得注意的是,下方都會產生固定格式的 Reference 與 Related 的資訊:

CloudGPT-2

這到底是請 ChatGPT 生的,還是系統拼貼上去的,就不得而知了。CloudGPT 剛上線時回覆速度蠻快的,應該是採用 GPT-3.5 的模型,畢竟當時 GPT-4 還沒上線。現在 CloudGPT 的回覆時間蠻久的,感覺是改用 GPT-4 了。

筆者將 CloudGPT 評價為資安問答專家

Gogolook 袋鼠金融

Roo AI 由 Gogolook 袋鼠金融所開發,同樣以 ChatGPT API 為基礎。與 CloudGPT 相似,都是基於檢索的方法。但是他主要面向金融領域的知識,例如信用卡、借貸或投資理財等等的問題。

Roo AI

Roo AI 也同樣有在下方列出參考文章,無論這個參考是 ChatGPT 生成的,還是系統產生的,對 Query-Based QA 而言列出 Reference 都是相當重要的一點。

筆者將 Gogolook 評價為金融問答專家

Hotoke 佛祖 AI

🙏🙏🙏

從佛教的角度來看,人生的苦難是不可避免的,它們是我們存在的一部分。佛陀教導我們要以慈悲和智慧的心態來面對這些困難,並從中學習和成長。這是一個機會,讓我們深入了解自己的內在世界,進而發現更大的力量和智慧。

🙏🙏🙏

各位先讓我們深呼吸一口,放下心中的執念,觀察並接納自己,調整我們的思考模式,並且常懷感恩之心,然後打開這個佛祖 AI 的網頁。

Hotoke AI 由日本人家入一真所開發,使用 GPT-3.5 做為基礎模型,是個相當具有禪意的應用。每次筆者打開這個網頁,就會感受到一股禪意衝上心頭,頓時感到安心喜樂。如果各位感到心中有雜念,不妨打開 Hotoke AI,靜下心來品茗佛祖 AI 的文字,給自己一片海闊天空。

Hotoke AI

作者本身也是一位佛教徒,因此設計了這個宗教應用,如果有煩惱的時候上來問看看,也許真的會有開悟的一天。除了網頁版以外,Hotoke AI 也有 LINE 的官方帳號,也能透過 LINE 直接向佛祖尋求心靈上的開悟,不過 LINE 的部份只支援日文就是了。

筆者將 Hotoke AI 評為佛祖 🙏

AutoGPT & AgentGPT

AutoGPTAgentGPT 是兩個蠻相似的應用,你可以輸入一個任務目標,系統會開始幫你分析這個任務,然後規劃許多階段,來協助你完成任務目標。差別在於 AutoGPT 要自己部署,而且步驟還滿繁雜的,不過 AutoGPT 可以真的執行「動作」。相較之下 AgentGPT 雖然有網頁版 Demo,也能免費使用部份功能,但他只會給出文字建議,而不會真的採取行動。

關於 AutoGPT 的部份,可以參考官方 GitHub 的 Demo 影片。像 AgentGPT 這類的應用,目的在於讓你好像有了一個真正的助手一樣,他會自己思考下一步該做什麼,並且去執行他。據說目前這種應用,使用 GPT-4 的效果會比較好,加上會使用到大量 Prompt 的關係,讓他跑一次可是所費不貲。以筆者的荷包而言,可遠觀而不可褻玩焉 💸

AgentGPT

基於筆者是個免費仔,所以並沒有對這個應用的付費內容有比較深的瞭解,只能介紹到這裡。但是這種 AI 代理是相當受歡迎的研究領域,未來一定會有更多更凶悍的應用出現,讓我們拭目以待。

以免費仔的角度而言,筆者將 AgentGPT 評為任務規劃專家

OSENSE Qubby AI

OSENSE Qubby AI 是個相當有趣的虛擬角色 AI 聊天機器人,裡面有各式各樣的虛擬人物,不僅能跟他們聊天,還會用十分相仿且自然的 TTS 跟你說話。

OSENSE Qubby AI

Qubby AI 主要透過 LINE 的官方帳號進去,綁定 LINE 的帳號登入。筆者嘗試透過電腦網頁版登入,但是畫面非常卡,而且聊天室也打不開,現階段應該只能用手機玩了。期待之後還能加入更多有趣生動的角色。

薯條塔羅

最後是筆者的自肥時間,薯條喵喵喵是以筆者的貓主子命名的 Discord Bot 機器人。筆者在念碩班時,一開始異想天開打算研究自動解塔羅牌的題目,但是跟教授討論過後發現這個題目實在太難寫論文了,光是如何評估塔羅牌解讀的準確率就是個問題。最後筆者只是當成一個 Side Project 將塔羅結合貓貓元素,然後隨機抽一張塔羅牌跟他的固定解釋而已。

然而在 ChatGPT 推出之後,這一切都彷彿變的可行了!於是筆者又重新打開這份長灰塵的 Code,把 ChatGPT API 快速整合進去。這樣不只可以抽塔羅牌,也能根據使用者的問題進行回答了。只要在 Discord 裡面使用 /超級薯條塔羅 這個指令,並附上一段問題,薯條就能針對這個問題解釋塔羅牌的涵義:

FriesMeow

看起來此次鐵人賽挑戰凶多吉少啊 ((汗

除了塔羅以外,還有許多其他各式各樣的功能,可以透過此連結邀請薯條到你的 Discord 群組裡面,有任何使用上的問題也可以到支援群組發問。薯條的原始碼公開在 GitHub 上,另外也在 DiscordTwtop.gg 上面有介紹頁面,如果喜歡這個機器人的話,也希望能綠界抖內一些貓罐頭給我的貓主子享用 🙏

結論

今天介紹了一些基於 ChatGPT API 的相關應用,從文本摘要、知識問答到心靈啟發與任務規劃等等,有很實用的,也有偏趣味性質的,並且也都支援中文。如此多樣性的應用,證明了 LLM 在各個實際應用場景的潛力有多巨大。而這些應用也只是冰山一角,除了像 AutoGPT 這種可以操作工具的應用以外,其他像是多模態模型之類的,未來也都會有越來越多突破性的應用出現。

筆者也親身體驗了 ChatGPT 應用的開發,這個 API 的確相當強大跟靈活,可以自由控制模型的人設與任務目標。且串接簡單、成本低廉,可用性相當的高。無論是使用者或是開發者,這個劃時代的科技成果都讓我們受益匪淺。然而在享用 LLM 的成果之時,也要注意科技發展帶來的弊端,事實上強如 ChatGPT 的模型依然容易產生很多錯誤。即便是 Retrieval-Based 的做法,也容易有檢索不到相關資訊的問題。且 ChatGPT 屬於雲端服務,也很自然的產生許多隱私問題。這些都是值得探討的議題,也需要大家一起來集思廣益,尋找屬於這個時代的最佳平衡點。


上一篇
LLM Note Day 6 - ChatGPT 的挑戰者們
下一篇
LLM Note Day 8 - Retrieval & Generation
系列文
LLM 學習筆記33
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言