iT邦幫忙

2024 iThome 鐵人賽

DAY 16
1

▋前言


https://ithelp.ithome.com.tw/upload/images/20240930/20169058M9V6wiG2zY.jpg
介紹完了Azure聊天機器人之後,為什麼不直接用Azure實作就好呢,答案很簡單,想勤檢持家,保持低成本。所以從今天開始,不只是連續發文挑戰,還是個地端聊天機器人的初次實作實境秀。最近有個很紅的料理對決節目<<黑白大廚:料理階級大戰>>,在這裡我們也來做個對決吧,不僅要看最後是否能實做成功,成功的話,也會分享付費v.s.免費聊天機器人的使用心得,來看看星級廚師跟名間高手最後誰會獲勝吧。

▋目標與計畫


目標

在地端實作一個具備RAG檢索功能的生成式聊天機器人,而且要使用免費的開源程式、不使用付費服務或API。

計畫

1. 尋找聊天機器人框架

2. 尋找免費的LLM模型

3. 開發與測試

4. 情境應用

5. 心得與小結

以上就是目前的目標與擬定的執行計畫,預計會遇到的困難點可能是電腦規格不足以供應需求、找不到適合的框架或者是使用的免費資源成果不如預期。會一邊評估一邊測試,所以這個計也畫可能不是按照順序執行完畢,而是不斷重複前面幾個步驟,不斷試誤的過程,歡迎大家留言分享自己的經驗或者想看的測試項目,那就讓我們繼續完成這最後的15天挑戰吧。

▋下回預告


按照計畫,下一篇將會開始尋找聊天機器人框架。

▋參考資料


Netflix劇照
https://www.netflix.com/title/81728365

▋後記


筆者現在真是又期待又怕受傷害,雖然有一定程度的信心,但畢竟要一邊做一邊撰寫文章,希望無論結果如何,都能然帶給大家一些有幫助的內容。


上一篇
Part1: Azure聊天機器人原理-心得&小結
下一篇
Part2: 地端實作聊天機器人-開源聊天機器人框架
系列文
從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言