iT邦幫忙

2024 iThome 鐵人賽

DAY 1
0

目標

接下來30天的文章,我會分享如何在完全免費的前提下,用Python、JS構建一個應用LLM的WebApp!除此之外,還會介紹如何將自己訓練好的模型部署在網頁前端,使用wasm/webGPU來利用網頁進行模型推理/加速!

使用技術

  • 網站的部署:Pythonanywhere
  • 後端:Flask
  • 前端:Node.js
  • LLM串接:Huggingface Inference Client

前情提要

-我本人不是學資訊出身的,文章中所使用的方法都是去網路上爬文或是買書看來的,所以用字跟講解應該可以讓不是學資訊的人也看得懂!
-如果有講錯或是不對的地方,也歡迎大家跟我說!


系列文
Python + JS + LLM:用Flask和JS前端打造自己的LLM WebApp1
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言