2024 iThome 鐵人賽

2024 iThome 鐵人賽

Share More Gain More

生成式 AI

最新文章熱門文章

選手 80 文章 1624

Day 18

2024-08-25

4713

0

LLM 應用、開發框架、RAG優化及評估方法系列

Day18 GAI爆炸時代 - 市面上 Vector DB 比較

Vector Database比較想要實作RAG前，必須先選個Vector DB 來儲存你embedding的資料囉，下面這些筆者選了幾款常見的來做介紹，最後...

Day 22

2024-10-06

4671

0

Python 新手的 AI 之旅：從零開始打造屬於你的 AI / LLM 應用系列

【Day22】Dify 工作流 (5)：在 Dify 中使用「HTTP 請求」，並且把流程變成「工作流 (workflow)」！(貓貓狗勾猜測機器人)

前言今天我們來用「HTTP 請求」節點，來做一個可以給我們狗狗 or 貓貓的機器人，由於這兩種問題 (dog or cat) 很類似，可以用「聚合器」來簡化流...

Day 29

2024-09-27

4669

0

2024 年用 LangGraph 從零開始實現 Agentic AI System 系列

【Day 29】- 網站開發遇上 AI：FastAPI、Streamlit 與 LangServe 的實戰指南

摘要這篇文章旨在引導讀者學習如何利用 FastAPI 建構高效的後端服務，使用 Streamlit 打造互動式前端介面，並透過 LangServe 將 Lan...

Day 22

2024-09-23

4468

0

Local LLM infra & Inference 一部曲系列

Day22 - vLLM實作篇PART1：安裝到推理 (Linux version)

🚀 vLLM介紹 vLLM是一個速度快、靈活又簡單好用的推理加速框架，主打使用PagedAttention管理kv cache，Model Paralleliz...

母湯小精靈

團隊為了AI而AI

Day 23

2024-09-24

4347

0

Local LLM infra & Inference 一部曲系列

Day23 - vLLM實作篇PART2：模型平行化 / 預測推理 / 其他設定

前言昨天的教學中，已經學會設定基本的OpenAI-Compatible Server方法了。簡單回顧一下，若是什麼也沒設定，預設會是使用一個GPU。 🎮 筆...

母湯小精靈

團隊為了AI而AI

Day 6

2024-09-07

4301

0

從系統設計切入，探索 GenAI 在企業中的實踐系列

[Day6] LM Studio－一鍵架好你的地端 Chatbot

有了模型之後再來就是使用介面了。現在有很多快速提供介面的服務像 ChatOllama、OpenGPTs 和 HuggingChat 等等，不過為了快速體驗整個...

團隊 SI夢想工程隊

熱門文章

熱門系列

鐵人選手

工商時間