iT邦幫忙

llm相關文章
共有 444 則文章
鐵人賽 自我挑戰組 DAY 2

技術 Day 2|Self-Consistency 只有一行?我在平手規則踩過的坑

上一篇把問題攤開後,這回來寫最小版 Self-Consistency。多數決那一行很短,旁邊那些看似無聊的小事才會咬人。 我以前真的寫過這種一行版本: Coun...

鐵人賽 自我挑戰組 DAY 1

技術 Day 1|如果模型會投票,每一票真的都該一樣重嗎?

我做 TACT,是被一個很直覺的想法坑到的:模型越有把握,那一票就應該越重。 聽起來很合理,實驗一跑卻翻車了。只要模型的信心方向反過來,高信心加權就會把錯誤放大...

鐵人賽 AI Engineering DAY 14

技術 《 Day14》💻code/示範【AI 基礎應用 ①】從 0 開始:用 Azure AI Foundry 入門 + 第一個 tool call

【AI 基礎應用 ①】從 0 開始:用 Azure AI Foundry 入門 AI 開發 + 第一個 tool call 你會寫程式,但沒碰過 AI 開發——...

鐵人賽 AI Security DAY 5

技術 對 LLM 應用做威脅建模

查核資訊: 本文於 2026-08-06 依 Microsoft Learn、OWASP Threat Modeling、OWASP Threat Drago...

鐵人賽 Build on Google AI DAY 13

技術 Day 13 如果會Docker run, Docker 真的能解決「在我的電腦可以跑」嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 Docker 真的能解決「在我的電腦可以跑」嗎? Day...

鐵人賽 Claude AI DAY 4

技術 D04 我的機台

目前的機台:Dell R630 (二手),CPU:E5-2680V4 x2,256G RAM。56個執行緒。目前跑:15個虛擬機,發出去的虛擬核心是 120...

技術 [技術] 我做了一個能讀真實 PLC 的 LLM Agent——關於工業協議 Tool Calling,沒人告訴你的那些事

六個月前我寫過一篇文章,講一篇「爆紅」的 Dev.to 文章推銷的 Local RAG 工具,六個月只賣出一份。當時學到的教訓是:我在做「看起來熱門的東西」,不...

鐵人賽 Build on Google AI DAY 12

技術 Day 12 AI 在我電腦上可以跑,為什麼換台電腦就壞了?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 在我電腦上可以跑,為什麼換台電腦就壞了? 前幾天談完...

鐵人賽 Build on Google AI DAY 11

技術 Day 11 同一個 AI 模型,Training 和 Inference 為什麼需要不同的 GPU??

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果用同一個 AI 模型,Training 和 Infer...

鐵人賽 AI Security DAY 10

技術 AI 黑魔法(10):圖片也能下咒,多模態注入攻擊

前面幾篇談 Prompt Injection 時,攻擊指令大多出現在聊天視窗、網頁或檢索文件裡,但入口其實不只有文字欄位,圖片、PDF、音訊和影片一樣可以把內容...

鐵人賽 AI Security DAY 2

技術 傳統資安 vs LLM 資安:到底哪裡不一樣

查核資訊: 本文依 MITRE CWE、OWASP 與 NIST 官方資料查核,並以 2026-08-10 的本機 Ollama 0.32.5、gemma4:...

鐵人賽 AI Security DAY 9

技術 AI 黑魔法(09):藏在文件裡的咒語,間接注入與 RAG 污染

AI 黑魔法(07) 把 Prompt Injection 分成直接與間接兩種,直接注入很直白、很好理解,就是攻擊者坐在聊天視窗前,把攻擊 payload 餵給...

鐵人賽 Build on Google AI DAY 10

技術 Day 10 如果跑同一個 AI 模型,Quantization 真的是免費午餐嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果跑同一個 AI 模型,Quantization 真的是...

鐵人賽 Build on Google AI DAY 9

技術 Day 09 如果模型不變,為什麼 Context 越長越吃 VRAM?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 昨日談問到如果模型越大,就一定需要越大的 GPU 嗎?今日...

My Project 同一篇內容翻成十種語言,要換掉的不只是詞,是節日

我們做的是一套「上傳一張孩子的照片,就寫出並畫出一本繪本」的產品,內容要以十種語言交付。做到第三種語言的時候,我們踩到一個到今天都還覺得值得寫下來的坑:翻譯把每...

鐵人賽 AI Security DAY 7

技術 AI 黑魔法(07):Prompt Injection 是什麼?為什麼 LLM 天生擋不住這道咒語

先來看一篇真實案例,2023 年 2 月微軟剛推出整合 ChatGPT 的新版 Bing Chat 沒幾天,史丹佛大學的學生 Kevin Liu 在對話視窗裡打...

鐵人賽 Build on Google AI DAY 8

技術 Day 08 如果模型越大,就一定需要越大的 GPU 嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果模型越大,就一定需要越大的 GPU 嗎? 開始接觸 L...

鐵人賽 Build on Google AI DAY 7

技術 Day 07 如果把記憶體當股票買,為什麼 AI 一直在談 VRAM呢?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 為什麼 AI 一直在談 VRAM呢? 開始研究 AI In...

鐵人賽 Build on Google AI DAY 6

技術 Day 06 如果AI一問就懂,那AI 到底需要什麼 GPU?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 談到 AI Infrastructure,很多人的第一個印...

鐵人賽 Build on Google AI DAY 5

技術 Day 05 如果AI Demo 成功,不代表 AI 專案成功,因為AI Engineer 的價值,不只是會使用 AI AGNET

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 實做 AI Demo 的時候,我們通常會先問一個問題:「它...

鐵人賽 Build on Google AI DAY 4

技術 Day 04 如果AI Engineer 不只是會呼叫 LLM API,那我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 從生成式 AI 普及之後,使用 LLM API 已經變得越...

鐵人賽 Build on Google AI DAY 3

技術 Day 03 如果我已經先跑多 AI Agent了,我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 2022年11底,我接觸ChatGPT等生成式 AI 之後...

技術 【AI Agent 架構】Agent 不是越複雜越好:哪些機制該留,哪些可以拿掉?

我在 San Francisco 參加一場 AI Agent 講座時,一位 Anthropic 工程師分享了這張投影片。 隨著模型能力提升,他們移除了部分原本...

My Project Awesome Agent Architecture:從 0 學習 AI Agent 架構

從 Agent Loop 出發,逐步拆解模型外圍的工具、狀態、權限、Memory 與協作機制 一、專案資訊 專案名稱: Awesome Agent Arc...

技術 AI 推論正在吞噬雲端

軟體開始「吞噬世界」已經超過十年,如今,輪到 AI 正在吞噬軟體。 AI正在改變軟體的本質:不只是軟體如何被開發,也包括它在人類生活、工作與商業系統中扮演的角色...

技術 從注入攻擊到詐騙防護:@martin_yeung/llm-up-guardrail 為你的 AI 打造生產級安全防線

前言:凌晨三點的電話鈴聲 凌晨三點,你被手機上的警報驚醒。公司那套全新的 AI 客服聊天機器人—原本應該自動處理 80% 的用戶查詢—剛剛因為某個用戶「客氣地」...

技術 AI 時代的新能力:定義問題,而不是尋找答案

最近的一年多裡,因為工作和研究的關係,我幾乎每天都在使用各種大型語言模型(LLM)。 從 GPT、Claude、Gemini,到各種本地模型,我發現了一個很有趣...

技術 推背 AI:智能體的終極未來_算力、理性與生存博弈的文明推演

算力、理性與生存博弈:從AI智能湧現之初到超級智慧體的終極未來━━━━━━━━━━━━━━━━━━━━━━━━━━━📖 全文約 1.4 萬字|閱讀時間約 25...

技術 o11y-bench 協助你評估 LLM 到底能不能當 SRE?

完整內容,請至幹話王 Grafana o11y-bench 深入剖析:讓 AI 真正面對 on-call 現場 LLM 到底能不能當 SRE?不是問它「知不知道...

技術 7,000 億美元的算力黑洞與職場大清洗:AI 時代的生存指南

以前提起來「裁員」,我們腦海中浮現的畫面是一艘快要沉沒的船,為了自救不得不拋下水手。 但在 2026 年的今天,裁員的底層邏輯發生了令人不寒而慄的轉變:企業不是...