前言
從這章開始,將進入推理加速相關技術的理論章節 🚀。
這些理論都已經都有被應用在一些知名框架當中,其實3分鐘就可以輕鬆應用了。但是如果客戶或面試官問說這些...
前情提要
上一篇文章我們了解了資料集的結構和如何設計,也了解了 FineTune 用到的 LoRA 的技術 (背後的數學和理論就不提了)。還有看了很多不同的微調...
Function Calling ,它允許大型語言模型(LLM)在生成回應過程中,能根據輸入的 prompt 動態呼叫預定義的 Function 來執行具體的操...
前言:
原本我是想使用 Huggingface 的 api 串接來實現這個教學的,不過因為我在東搞西搞之後發現要 huggingface pro 的訂閱才能使用...
1-2 自然語言處理(NLP)的主要工作與技術
自然語言處理(Natural Language Processing, NLP)是一個涵蓋範圍廣泛的領域,致力...
土炮記憶
要讓 AI 記住對話,可以建立一個 List,並將對話紀錄加進 List 中,就如昨天所說 AI 就能根據歷史訊息回答相關問題
▋程式碼實作
程式碼中...