2024 iThome 鐵人賽

2024 iThome 鐵人賽

Share More Gain More

生成式 AI

最新文章熱門文章

選手 80 文章 1624

Day 27

2024-09-28

4553

0

Local LLM infra & Inference 一部曲系列

Day27 - Infra篇PART2：針對服務的分散式系統

前言先前在 Day10 講過了針對計算資源的分散式架構Ray ⚙️，也在 Day26 提到多個server組成cluster的概念 🌐，在這些clusters...

母湯小精靈

團隊為了AI而AI

Day 5

2024-09-19

4550

0

Python 新手的 AI 之旅：從零開始打造屬於你的 AI / LLM 應用系列

【Day5】初探 AI 記憶功能：讓你的 LLM 不再「失憶」

前言之前的程式例子中，我們幾乎都只有讓模型進行一次推論，一點都不像在聊天。你可能會寫出這樣的程式碼。然後就會像圖中的輸出一樣，模型總是會忘記我們先前說的話。...

Day 15

2024-08-16

4536

1

LLM與生成式AI筆記系列

Day 15: langchain 由入門到熟練( 使用 LCEL 建立簡單的 LLM 應用-使用huggingface在colab載入模型)

前言: 以下是langchain-官網的教學，每一個範例我都會根據官網的教學修改成我自己可能會用到的版本，不過這大概出不了書，畢竟只是官網範例的翻譯跟改成我自己...

中年一般人

Day 11

2024-08-11

4518

0

運用生成式 AI 服務所提供的API 實做應用開發（以Gemini及ChatGPT為例）系列

2-3 防範與應對 Prompt inject 注入攻擊

2-3 防範與應對 Prompt inject 注入攻擊為什麼可以對 LLMs 做 Prompt Injection 注入攻擊？ Prompt Inject...

Day 13

2024-09-14

4514

0

Local LLM infra & Inference 一部曲系列

Day13 - 壓榨完GPU換壓榨VRAM：PagedAttention

前言在 Day6 的時候我們提到當context length越長，KV cache也會越大，分配KV cache也成為一個挑戰的工作 🧠。在 Day12 學...

母湯小精靈

團隊為了AI而AI

Day 9

2024-09-07

4495

0

2024 年用 LangGraph 從零開始實現 Agentic AI System 系列

【Day 9】- 從 Redux 到 LangGraph：AI 時代下的狀態管理新思維

摘要這篇文章主要探討了兩種狀態管理框架：傳統的 Redux 和新興的 LangGraph，並比較了它們的設計理念和應用場景。首先，文章簡要介紹了 Redux...

熱門文章

熱門系列

鐵人選手

工商時間