iT邦幫忙

2024 iThome 鐵人賽

DAY 30
1

▋Dify成果分享


https://ithelp.ithome.com.tw/upload/images/20241014/20169058t3SFPCb7FP.png
今天要實際跟自己建立的地端聊天機器人說話啦,我們能讓機器人有自己的人設,用獨特的風格和我們對話。接下來就看看最後的設定,如何在Dify結合所有的功能做出Chatbot!

建立chatbot

  1. 在Studio主頁點選Create from Blank:
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058fcRhUVk7mH.png

  2. 選擇Chatboot,並且輸入自訂的名稱與說明:
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058hGzunVNomc.png

  3. 選擇預先建立的知識庫:
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058HcmvgMkUPA.png

  4. 在Instructions輸入提示內容,決定聊天機器人預設的風格。確定好設定之後點擊Publish發布,再點擊Run App啟動:
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058Cvd5rMRO3E.png

  5. 啟動後就可以看到聊天機器人的對話視窗了:
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058gYIRNQFxrE.png

Chatbot聊天實例

  1. 國慶煙火新聞:
    在這個例子中,機器人從已經餵入的HTML文檔中找到資訊,包含國慶煙火的地點、現場的人數,以及煙火施放的時長,都能回答,即使機器人弄錯了當天的日期,也可以透過對話回饋,請他修正自己說的內容。
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058SNaUpcOpjr.png
    https://ithelp.ithome.com.tw/upload/images/20241014/201690587oNOrn38aX.pnghttps://ithelp.ithome.com.tw/upload/images/20241014/20169058nOowyaOHHM.png

  2. 蘭嶼觀光導覽:
    第二個例子中,成功地問到了蘭嶼旅遊導覽PDF文件中提供的交通資訊,不過可惜的是,英文回答的比例偏高,而且雖然航空公司的部分有以括弧註記中文名稱,但聊天機器人自己翻譯的英文名稱有誤,德安航空正確應為Daily Air Corporation。看來還是有不少可以優化的地方。
    https://ithelp.ithome.com.tw/upload/images/20241014/20169058HIBRY8w4Az.pnghttps://ithelp.ithome.com.tw/upload/images/20241014/201690586cSYlvIGNN.png

優化方向

  1. 使用更具體且詳細的Prompt:透過提示內容,讓聊天機器人的回覆模式更符合需求。(可參Day9:Prompt技巧
  2. 調整模型參數:調整像是Temperature、Seed等模型參數可以固定/改變機器人回覆的方式。(可參Day10:參數設定
  3. 增加知識庫的內容:上傳文檔來豐富聊天機器人可參考的知識,讓回答內容更可靠。(可參Day29:上傳文檔
  4. 選用不同模型:每個模型有各自的優劣勢,選擇一個適合使用情境的模型,也是一個優化的好方法。(可參Day28:Ollama部屬LLM模型

▋鐵人賽完賽心得


這30天的鐵人賽分成兩個部分,Part1我們透過Azure聊天機器人,了解生成式AI背後運作的原理。而Part2我們基於先前的知識,重新在地端環境中建立了一個沒有使用外部服務的RAG開源聊天機器人。很高興最後和大家一起成功達成了目標,不僅完賽連續撰寫文章,初次部屬的Dify聊天機器人也成功運作。這系列的文章希望陪伴大家從0到1的這個學習階段,系列文完成後並非結束,如果大家還有興趣,都可以再繼續發展,持續進行各自的1到10,祝大家順利,享受過程與成果,有緣再見!

▋參考資料


Dify(官網)
https://dify.ai/
Dify(github)
https://github.com/langgenius/dify/tree/main
國慶煙火結束 30萬民眾散場擠爆雲林高鐵站(奇摩新聞)
https://news.tvbs.com.tw/life/2647402
2024蘭嶼觀光導覽摺頁(台東觀光旅遊網)
https://tour.taitung.gov.tw/zh-tw/media/publication
自己的鐵人賽文章
https://ithelp.ithome.com.tw/users/20169058/ironman/7646


上一篇
Part2: 地端實作聊天機器人-結合Celery上傳文檔&建立知識庫
系列文
從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言