技術 <玩轉大語言模型> 方便的UI套皮工具: Gradio

上一篇我們講玩了Streamlit，今天我們來講另一個package，就是Gradio! Gradio 是一個可以快速為機器學習模型構建 Web UI 的強大工...

技術 Day24 - vLLM實作篇PART3：FastAPI與vLLM docs尋寶之旅

前言 第24天了！最後就在官方文件裡面撈看看還有什麼可以玩的。 ✨ 首先是安裝方式，除了之前試過的linux GPU版本安裝之外，官方文件還提供了linux C...

技術 沒經驗的人來玩玩看Python+ Gradio

很簡單的如果你對python沒什麼經驗，可以先知道什麼是gradio https://www.gradio.app/guides/quickstart 基本上他...

技術 Day 30 - 建立 Gradio Demo App

終於來到了鐵人賽的最後一天，感謝有看到今天的各位大大們，今天我們要來使用訓練好的模型來建立一個簡易的 Demo App，那我們就開始吧 先讓大家看看最後的呈現方...

技術 LLM Note Day 5 - 貓貓塔羅

簡介 經常有人說 ChatGPT 是在「一本正經的胡言亂語」，在 GPT-4 推出之後，尤其能感受到 GPT-3.5 相對容易產生錯誤。但是喜歡胡言亂語未必是個...