2024 iThome 鐵人賽

所有主題

最新文章熱門文章

選手 1064 文章 22214

AI/ ML & Data

Day 26

2024-10-04

8370

深度學習的學習之旅：從理論到實作系列

[Day 26] Transformer：自然語言處理的關鍵技術

Transformer 前言昨天提到的大型語言模型（LLM）依賴一個非常關鍵的技術架構——Transformer。它在自然語言處理（NLP）領域掀起了革命性的...

bin

團隊 NUTC imac

生成式 AI

Day 23

2024-09-24

8317

Local LLM infra & Inference 一部曲系列

Day23 - vLLM實作篇PART2：模型平行化 / 預測推理 / 其他設定

前言昨天的教學中，已經學會設定基本的OpenAI-Compatible Server方法了。簡單回顧一下，若是什麼也沒設定，預設會是使用一個GPU。 🎮 筆...

母湯小精靈

團隊為了AI而AI

佛心分享-SideProject30

Day 13

2024-08-14

8242

門外漢的嵌入式地獄系列

Day 13 。初入嵌入式開發- Uboot說明 (一)

簡介 Linux 系統要啟動一定需要一個 bootloader , 當晶片上電後會先運行這一段 bootloader 程式 , 這段bootloader 會...

TsaiiiY

生成式 AI

Day 5

2024-09-03

8240

2024 年用 LangGraph 從零開始實現 Agentic AI System 系列

【Day 5】- LangChain 與 LangGraph 串流技術深度探索

摘要展示了 LangChain 與 LangGraph 的串流功能，旨在說明如何以分段式輸出和事件串流的方式提升基於大型語言模型 (LLM) 應用程式的效能。...

hengshiousheu

自我挑戰組

Day 22

2024-10-06

8219

Linux Kernel 網路巡禮系列

Memory-Mapped IO

接著我們將從作業系統的角度探討，CPU 如何與周邊設備進行溝通。根據昨天的架構圖，我們可以看到，CPU 與 RAM 及外部設備的溝通都必須通過 Root C...

gamerslouis

AI/ ML & Data

Day 5

2024-08-16

8189

NVIDIA邊緣運算探索：解鎖AI視覺與大模型的無限潛能系列

如何在NVIDIA Jetson Orin NANO上把系統刷到SSD上？

對於AI計算性能高達40TOPS的Jetson Orin Nano開發套件來說，如果缺少性能良好的存儲相匹配，會讓整體執行效益大打折扣。為此，NVIDIA在Je...

jambo0321