2024 iThome 鐵人賽

2024 iThome 鐵人賽

Share More Gain More

生成式 AI

最新文章熱門文章

選手 80 文章 1624

Day 26

2024-09-27

4210

0

Local LLM infra & Inference 一部曲系列

Day26 - Infra篇PART1：多台server如何一起工作？

前言前面 Day7 有講過超級電腦（資料中心）和IaaS平台之間的關係 🛠️，在 Day9 提到了local LLM和雲端LLM服務的差異 ☁️⚖️，而 Da...

母湯小精靈

團隊為了AI而AI

Day 21

2024-09-22

4207

0

Local LLM infra & Inference 一部曲系列

Day21- 各式各樣的推理框架介紹

前言最近不同的推理框架不斷地冒出，其實主流也就是那幾個XD，在選擇使用哪一個之前，應該要先定義清楚使用情境，像是給個人電腦做運算 🖥️，還是做成API ser...

母湯小精靈

團隊為了AI而AI

Day 4

2024-08-08

4172

0

T 大使 AI 之旅系列

【Day 04】Ollama UI 應用

前情提要上一篇成功用 Node 和 Python 把 Open WebUI 給 Run 起來，很順利的使用 UI 介面跟語言模型溝通，那今天就要來繼續玩看看...

Day 11

2024-09-12

4171

0

懶人救星：生成式AI 系列

Day11－打破語言模型的極限！RAG 技術如何讓 GPT 更聰明？

What is RAG （Retrieval-Augmented Generation）？ RAG（檢索增強生成）是一種將預訓練（Pre-training）的大...

團隊為了AI而AI

Day 27

2024-09-28

4032

0

Local LLM infra & Inference 一部曲系列

Day27 - Infra篇PART2：針對服務的分散式系統

前言先前在 Day10 講過了針對計算資源的分散式架構Ray ⚙️，也在 Day26 提到多個server組成cluster的概念 🌐，在這些clusters...

母湯小精靈

團隊為了AI而AI

Day 24

2024-08-24

4004

0

運用生成式 AI 服務所提供的API 實做應用開發（以Gemini及ChatGPT為例）系列

5-2-3 要求 LLMs 去將上面功能 combine together

5-2-3 要求 LLMs 去將上面功能 combine together 合併那現在有GAS 呼叫 Gemini API 的程式碼也有Line Bot 的...

熱門文章

熱門系列

鐵人選手

工商時間