本系列文章會分享筆者自身的學習經驗,手把手帶著讀者學習、實作大語言模型(LLM)的各種應用,不再只是在web上一問一答,而是部屬屬於自己的客製化GAI系統。
筆者在前段時間的某個專題中,因緣際會下開始研究嘗試大語言模型的使用及運用,並將其套用在專題系統之中,在自己一段時間的摸索之下,也有了自己的一些經驗和想法,並且也...
環境建置: Anaconda 想要開始愉快的AI之旅,首先必須在你的電腦上建立虛擬環境,虛擬環境能讓env、各種package間不會互相衝突,我相信它的必要性不...
延續上一篇將Anaconda下載完並且script的path後,我們就開始環境的設置 首先在terminal裡開始操作了,首先輸入conda create –n...
繼上一篇將環境布置好後,我們就要開始將本系列文的重點核心 LLM 在本地部屬 看到這個章節的標題,你可能會問,現在的生成式AI在WEB上那麼的方便好用,甚至在某...
那本篇就來進入到本地部屬llm的部分! 本地部屬模型的幾種方法 將模型部屬至本地執行有很多方法,這邊已meta的Llama3為例,可以用Ollama平台,或是H...
上一篇我們看了如何使用Ollama快速方便的去跑model,今天我們要來看另一種部屬模型的方式,也就是用HuggingFace的Transformer! 首先我...
在上一篇將本地HuggingFace Hub設置完成之後,我們的帳號就等於有連接到本地了那我們現在就開始進行模型的部屬使用! 首先,先去 HuggingFac...
本偏要來介紹這系列文的一大核心,就是LangChain! LangChain langchain是一個為了大語言模型(LLM)應用的框架,能簡化我們在開發時與語...
上一篇我們介紹了LangChain並且簡單使用了一下,今天我們再繼續介紹一些常見的基礎用法! 各位應該都清楚知道prompt是什麼,我們在使用大語言模型時,pr...
接下來這篇要來介紹另一個langchain強大的功能,就是chain,其實就是能夠將多個對象組合在一起,直接讓它形成一個與模型溝通的流程,例如我們在前面的llm...