技術 [Day 28] - 預測服務 🚀 (下) | Rust x Docker 部署鋼鐵草泥馬 🦙🦀

今日份 Ferris 今天要使用 Docker 把先前的專案容器化啦，畫圖的時候畫出鯨魚 (海豚？) 螃蟹，有夠可愛哈哈哈 部署機器學習應用 🏮 今天要部署的...

技術 LLM Note Day 24 - 語言模型微調 LLM Finetuning

簡介 接下來要來討論如何微調 (Finetune) 一個大型語言模型。微調 LLM 與微調其他模型其實很相似，但是因為 LLM 的參數量較大，所以訓練的最低需求...

技術 [Day 19] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (10/10)｜結論及展望

今日份 Ferris 昨天完成了我們的專案，今天一起靜下心坐下來休息一下，談談未來可以改善的地方，來吧，你坐啊 結論及展望 經歷了 9 天的努力，終於把專案完成...

技術 [Day 18] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (9/10)｜前端美化與最終成果

今日份 Ferris 今天要來完成我們的專案囉，隆重介紹 Iron LLaMa~~~ 透過 Effect 回應變化 🏮 今天完整的程式碼可以拉到最底下 Put...

技術 [Day 17] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (8/10)｜Rust 中載入 GGML 模型

今日份 Ferris 度過了昨天最難的部分，今天來繼續完善我們的專案吧！＊Ferris 3D by Ray March 載入模型 🏮 今天完整的程式碼可以拉到...

技術 [Day 16] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (7/10)｜後端 LLM API

今日份 Ferris 今天要接著要實作後端 API 了，是這個專案中最難的部分，要起飛啦～＊Droidstacean by Ivan Lozano, based...

技術 [Day 15] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (6/10)｜GGML 量化 LLaMa

今日份 Ferris 今天要來下載 Taiwan LLaMa 模型啦，在 Ferris 的介紹下 Taiwan LLaMa 跟 Iron LLaMa 也聯手了！...

技術 [Day 14] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (5/10)｜Signal & Action

今日份 Ferris 祝大家中秋節快樂！果然還是要跨過中秋連假才有參加鐵人賽的感覺啊哈哈哈哈 今天要為前端建立基本的架構，而重點就是要讓其具有 Reactivi...

技術 [Day 13] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (4/10)｜對話の資料結構

今日份 Ferris 今天是超級自信之作哈哈哈 模組化 🏮 今天完整的程式碼可以拉到最底下 Put it together 區塊或是在 GitHub 找到。...

技術 [Day 12] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (3/10)｜Leptos 小教室

今日份 Ferris 今天要稍微談一下 Leptos 的基本概念與做一些美化，所以是藝術家 Ferris：＊Ferris from strager - Fas...

技術 LLM Note Day 12 - So Many LLMs 如繁星般的語言模型們

簡介 雖然多數的 Local LLM 不會像 ChatGPT 一樣高達 175B 的參數量，但即便模型只有 7B, 13B，在只有一兩張 3090, 4090...

技術 [Day 11] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (2/10)｜行前準備

今日份 Ferris 今天開始可以磨刀霍霍向專案了，先來把必要的安裝準備好吧！ Rust nightly 由於接下來使用 Leptos 時會需要 Rust 每夜...

技術 [Day 10] - 鋼鐵草泥馬 🦙 LLM chatbot 🤖 (1/10)｜專案簡介

今日份 Ferris 接下來幾天都要做專案啦，這次挑戰要繼續拓展鋼鐵動物系列，上次參加鐵人賽做了 鋼鐵鳥 Iron Bird 鳥兒分類器，這次改做鋼鐵草泥馬 I...