iT邦幫忙

2024 iThome 鐵人賽

DAY 28
0
生成式 AI

LLM 應用、開發框架、RAG優化及評估方法 系列 第 28

Day28 GAI爆炸時代 - 聯發科 達哥& SUPERIOR API 平台

  • 分享至 

  • xImage
  •  

終於來到最後一個part啦
準備要來介紹的是目前市面上的一些GAI平台,
今天要介紹的是我們鼎鼎大名的發哥,聯發科所開發的GAI平台 "達哥"

一般常見功能就不贅述了
這邊主要介紹幾個特別的功能

  1. 平台有plugin功能,可針對特定任務去加強(DALL E去生圖)

  2. 若要上傳多個檔案,會跳到一個web(DSE 達哥search Engine) ,在這邊上傳.zip檔(就可以透過此方式做到多份文件上傳)
    傳完後,可以選install plugin(你的達哥的plugin就會出現) 或download plugin(可分享給別人)
    定義plugin的話,必須符合OpenAPI的規範(回傳json or .yaml)
    若不是一般的API,要透過python plugin去執行(在達哥文件的python plugin: Development Manual-DaVinci Plugin 介紹 - Python Plugin)

  3. 勾選file就可做到RAG、也可上傳URL

  4. 擁有自家API開發上架平台,可先在此上架後,也同步到達哥的平台供使用

自行開發 Plugin

  1. 先到SUPERIOR平台 https://superiorapis.cteam.com.tw/

  2. 進入setting中,點選Interface management

image

image

  1. 即可開始定義這支API的interface

    1. 先建立資料夾
      image
    2. 進入該資料夾後,建立Interface
      image
    3. 開始定義API要的細部schema資訊
      image
  2. 將寫好的Flask API 或 Fast API 先部署到server上,這邊可選擇部署到免費的Vercel
    _ 完成後就像這樣,可取得一串URL
    螢幕擷取畫面 2024-08-27 104300

    • 取得URL後,可用Postman來測試response結果
  3. 再回到SUPERIOR開始定義API

    1. 建立資料夾
      image
    2. 進入該資料夾後,點擊API,開始建立相關資訊
      image

    image

    螢幕擷取畫面 2024-08-27 104703

    即可完成

在SUPERIOR上架後,就可以在達哥平台的plugin中搜尋到,並提供下載使用

image

Model必須GPT4-Turbo以上

image

image

image


看完覺得,是不是有點心動呢!
快去試試吧!

  • 參考資料:https://dvcbot.atlassian.net/wiki/spaces/DW/pages

剩下兩天了! 一起努力學習、成長


上一篇
Day27 GAI爆炸時代 - Ragas介紹
下一篇
Day29 AI爆炸時代 - Ollama 建置與內嵌python script設定
系列文
LLM 應用、開發框架、RAG優化及評估方法 30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言