iT邦幫忙

2024 iThome 鐵人賽

DAY 15
1

▋Azure聊天機器人


回顧了聊天機器人的架構之後,有些人可能會真的想要實作,但在這個系列文的後半段會尋找其他免費資源來做實作的部分,所以今天就和大家用個優缺點比較來分享Azure聊天機器人的使用心得,希望對評估是否使用Azure的朋友們能有點幫助。

優點

1. 較低的入門門檻

使用Azure環境的最大好處之一,就是Azure平台已經內建了各種聊天機器人可能會用到的服務,而且都有網頁版的操作介面,我們只要連結這些服務,就可以輕鬆使用這些豐富且獨立的功能。

2. 開發者友善

Azure在github中已經提供了基礎版本的聊天機器人範例程式,如果不只有使用需求,而是希望開發成客製化的模樣,可以較為容易地從現有的版本做修改和擴展。

3. 資源充足

Azure的資訊在網路上不僅有詳細的官方文件可以閱讀,也有許多相關的使用者討論文章可以參考,甚至在Youtube上也有影片可以觀看。因為使用者眾多,能查詢到的資源也相對較多,更有機會找到問題的解方。

缺點

1. 費用不易估計

專案在進行時,除了成效之外,我們也會需要評估成本,但Azure的服務不容易在使用前就先確認所有的總價。不同的方案有不同的計費模式,會依照規格等級和使用時間長短影響到最後的花費,實際上使用時,建議搭配費用監測的功能,並定期確認帳單,以免出現預期外的超額費用。

2. 使用Azure需要時間上手

前面提到Azure提供了很多功能,也有介面可以方便使用。但若是初次使用,不僅會要先了解所需的功能在哪個服務中有提供,也要熟悉該服務的設定與操作方式,甚至開對的權限給指定的使用者。對新手來說,可能會需要一些時間適應,或者有些人也會去上培訓課程,培養相關的技能並取得雲端認證證照。

3. 脫離的成本高

使用Azure和其他微軟生態系的工具,彼此間通常都有較高的相容性,使用上相對方便。但使用了之後,也許會發現部分不符合需求之處,但若此時要更換成別種工具或服務,可能需要較大幅度的修改,甚至重新設計。所以使用前,建議評估目前與未來可能的情境,來評估是否要投入新的生態系。

小結

看完了優缺點之後,大家可以依照各自的情況評估是否使用,若是公司已經高度使用微軟作業系統及相關服務,且有額外購買微軟的客戶支援,在有微軟的技術和業務支援的條件之下,很推薦這個方便且相容性高的環境來做聊天機器人。相反的,如果是個人戶,而且需求用量不大,可能在成本考量之下,會有其他更合適的選擇。
系列文的Part1,旨在介紹Azure聊天機器人的原理,並在從0到1這個階段,透過文章加速理解內容,能更快速的完成前期評估或投入應用,希望對大家有所幫助。

▋下回預告


Azure聊天機器人原理就到今天告一個段落了,明天開始會是Part2地端實作,從前期評估開始,一起來選擇實作的方案吧。

▋參考資料


azure-search-openai-demo
https://github.com/Azure-Samples/azure-search-openai-demo/#Running%20locally

▋後記


今天系列文的Day15,完成了一半,也做了前半部的小結,感謝Azure資源和當時公司,讓筆者有機會做到這個項目也才會有現在的經驗分享。後半部的實作對比這來說是更大的挑戰,我們就一起繼續完成剩下的15天吧,看最終能不能成功在時間內啟用一個地端的聊天機器人。


上一篇
Part1: Azure聊天機器人原理-架構回顧
下一篇
Part2: 地端實作聊天機器人-前言
系列文
從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言