iT邦幫忙

2024 iThome 鐵人賽

DAY 18
1

▋Dify


https://ithelp.ithome.com.tw/upload/images/20241002/20169058RUpN7kIeMb.png
雖然已經決定使用Dify這個開源框架,但初次接觸還是有點陌生,今天就從Dify的官網和github多查點資料來認識它吧。

簡介

Dify是一個開源的LLM應用開發平台,而「Dify」一詞源自Define、Modify,意思是定義(Define)並持續改進(Modify)AI應用程式。

核心功能

Dify的核心功能提供了直觀的介面,並結合了AI工作流程、RAG、代理、模型管理和監控。其中,監測功能提供隨時間的分析日誌,讓我們可以根據觀察到的數據持續優化聊天機器人。
以下是我們的實作時首要關注的目標功能:

  1. RAG
    可利用PDF、PPT等常見格式,從文檔開始取得文件內容,提供RAG檢索服務。
  2. LLM
    支援多種付費或開源的LLM模型,包含Azure OpenAI Service、OpenAI API以及Llama等常見模型。
    https://ithelp.ithome.com.tw/upload/images/20241002/20169058EHuroo1rG9.png
  3. Prompt IDE
    提供Prompt詠唱功能,結合提示功能客製化模型輸出成果。

使用方式

我們預計使用地端版,除了地端版之外,Dify也有雲端的網站服務和企業專屬的版本:

  1. 地端版
    藉由入門指南、依循配置和使用說明,快速地在自己的環境中運行Dify。
  2. 雲端版
    無須額外設置的雲端服務,讓大家都能網站上直接試用。並在沙盒計劃中提供200次免費的GPT-4調用。
  3. 企業版
    如果是企業,Dify還提供額外功能,並支援在AWS Marketplace上一鍵部署至自己的AWS VPC。

▋下回預告


簡單介紹Dify之後,發現Dify的功能其實很豐富,還有很多可以探索的項目,明天我們就試著把開源的程式碼下載到自己的電腦上吧。

▋參考資料


Dify(官網)
https://dify.ai/
Dify(github)
https://github.com/langgenius/dify/tree/main

▋後記


這次颱風走得很慢,但風雨也漸漸明顯了,明天各地可能迎接了第二或第三天的颱風假,大家仍然注意安全!


上一篇
Part2: 地端實作聊天機器人-開源聊天機器人框架
下一篇
Part2: 地端實作聊天機器人- git clone
系列文
從Azure雲端服務架構入門,在本地端結合RAG&LLM打造專屬的聊天機器人。30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言