iT邦幫忙

llm相關文章
共有 361 則文章
鐵人賽 Build on Google AI DAY 16

技術 Day 16 如果有requirements.txt 真的能讓 AI 環境重現嗎??

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果有requirements.txt 真的能讓 AI 環...

鐵人賽 AI Security DAY 7

技術 第一階段回顧與小型攻擊熱身

查核資訊: 本文於 2026-08-07 完成查核,依據為 OWASP LLM Prompt Injection Prevention Cheat Sheet...

鐵人賽 Build on Google AI DAY 15

技術 Day 15 AI 專案到底要固定哪些東西,才能真正重現?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 專案到底要固定哪些東西,才能真正重現? Day 14...

技術 八個膚色選項,其中六個畫出來是同一個小孩

下拉選單裡給人看的文案,跟送進模型的那串字,如果是同一個字串,這種錯不會有人發現。介面照樣渲染八個選項,服務照樣回八張圖,沒有例外也沒有告警。要等到有人把八張圖...

鐵人賽 Build on Google AI DAY 14

技術 Day 14 如果有了 Docker,AI 就一定能重現嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果有了 Docker,AI 就一定能重現嗎? Day 1...

技術 兩條各自都對的規則,把一個叫 Yuna 的孩子改名成了柚奈

規格裡最難抓的一種錯,是兩條各自都正確的規則。它們寫在不同的檔案、隔了兩個禮拜,誰也沒有引用誰,單獨讀都挑不出毛病。要等到某個輸出同時踩到兩條,才會看見它們一直...

鐵人賽 自我挑戰組 DAY 3

技術 Day 3|信心加權只改幾行,為什麼反而更容易投錯?

上一篇的投票器只看答案,不看模型講得多有把握。今天替每條推理軌跡加上一個信心分數,再看看這個看似合理的改動會出什麼事。 先說結論:正向信心加權確實可能大幅贏過多...

鐵人賽 自我挑戰組 DAY 2

技術 Day 2|Self-Consistency 只有一行?我在平手規則踩過的坑

上一篇把問題攤開後,這回來寫最小版 Self-Consistency。多數決那一行很短,旁邊那些看似無聊的小事才會咬人。 我以前真的寫過這種一行版本: Coun...

鐵人賽 自我挑戰組 DAY 1

技術 Day 1|如果模型會投票,每一票真的都該一樣重嗎?

我做 TACT,是被一個很直覺的想法坑到的:模型越有把握,那一票就應該越重。 聽起來很合理,實驗一跑卻翻車了。只要模型的信心方向反過來,高信心加權就會把錯誤放大...

鐵人賽 AI Engineering DAY 14

技術 《 Day14》💻code/示範【AI 基礎應用 ①】從 0 開始:用 Azure AI Foundry 入門 + 第一個 tool call

【AI 基礎應用 ①】從 0 開始:用 Azure AI Foundry 入門 AI 開發 + 第一個 tool call 你會寫程式,但沒碰過 AI 開發——...

鐵人賽 AI Security DAY 5

技術 對 LLM 應用做威脅建模

查核資訊: 本文於 2026-08-06 依 Microsoft Learn、OWASP Threat Modeling、OWASP Threat Drago...

鐵人賽 Build on Google AI DAY 13

技術 Day 13 如果會Docker run, Docker 真的能解決「在我的電腦可以跑」嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 Docker 真的能解決「在我的電腦可以跑」嗎? Day...

鐵人賽 Claude AI DAY 4

技術 D05 我的機台

目前的機台:Dell R630 (二手),CPU:E5-2680V4 x2,256G RAM。56個執行緒。目前跑:15個虛擬機,發出去的虛擬核心是 120...

技術 [技術] 我做了一個能讀真實 PLC 的 LLM Agent——關於工業協議 Tool Calling,沒人告訴你的那些事

六個月前我寫過一篇文章,講一篇「爆紅」的 Dev.to 文章推銷的 Local RAG 工具,六個月只賣出一份。當時學到的教訓是:我在做「看起來熱門的東西」,不...

鐵人賽 Build on Google AI DAY 12

技術 Day 12 AI 在我電腦上可以跑,為什麼換台電腦就壞了?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 AI 在我電腦上可以跑,為什麼換台電腦就壞了? 前幾天談完...

鐵人賽 Build on Google AI DAY 11

技術 Day 11 同一個 AI 模型,Training 和 Inference 為什麼需要不同的 GPU??

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果用同一個 AI 模型,Training 和 Infer...

鐵人賽 AI Security DAY 10

技術 AI 黑魔法(10):圖片也能下咒,多模態注入攻擊

前面幾篇談 Prompt Injection 時,攻擊指令大多出現在聊天視窗、網頁或檢索文件裡,但入口其實不只有文字欄位,圖片、PDF、音訊和影片一樣可以把內容...

鐵人賽 AI Security DAY 2

技術 傳統資安 vs LLM 資安:到底哪裡不一樣

查核資訊: 本文依 MITRE CWE、OWASP 與 NIST 官方資料查核,並以 2026-08-10 的本機 Ollama 0.32.5、gemma4:...

鐵人賽 AI Security DAY 9

技術 AI 黑魔法(09):藏在文件裡的咒語,間接注入與 RAG 污染

AI 黑魔法(07) 把 Prompt Injection 分成直接與間接兩種,直接注入很直白、很好理解,就是攻擊者坐在聊天視窗前,把攻擊 payload 餵給...

技術 模型到第七頁就忘了那個孩子

一位媽媽上傳了女兒的一張照片。不是生日也不是什麼特別的日子,客廳的隨手拍,很普通的光線,孩子半看著鏡頭。 兩分鐘後,一本十二頁的繪本出來了。孩子在雲上的市集裡奔...

鐵人賽 Build on Google AI DAY 10

技術 Day 10 如果跑同一個 AI 模型,Quantization 真的是免費午餐嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果跑同一個 AI 模型,Quantization 真的是...

鐵人賽 Build on Google AI DAY 9

技術 Day 09 如果模型不變,為什麼 Context 越長越吃 VRAM?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 昨日談問到如果模型越大,就一定需要越大的 GPU 嗎?今日...

技術 同一篇內容翻成十種語言,要換掉的不只是詞,是節日

我們做的是一套「上傳一張孩子的照片,就寫出並畫出一本繪本」的產品,內容要以十種語言交付。做到第三種語言的時候,我們踩到一個到今天都還覺得值得寫下來的坑:翻譯把每...

鐵人賽 AI Security DAY 7

技術 AI 黑魔法(07):Prompt Injection 是什麼?為什麼 LLM 天生擋不住這道咒語

先來看一篇真實案例,2023 年 2 月微軟剛推出整合 ChatGPT 的新版 Bing Chat 沒幾天,史丹佛大學的學生 Kevin Liu 在對話視窗裡打...

鐵人賽 Build on Google AI DAY 8

技術 Day 08 如果模型越大,就一定需要越大的 GPU 嗎?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 如果模型越大,就一定需要越大的 GPU 嗎? 開始接觸 L...

鐵人賽 Build on Google AI DAY 7

技術 Day 07 如果把記憶體當股票買,為什麼 AI 一直在談 VRAM呢?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 為什麼 AI 一直在談 VRAM呢? 開始研究 AI In...

鐵人賽 Build on Google AI DAY 6

技術 Day 06 如果AI一問就懂,那AI 到底需要什麼 GPU?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 談到 AI Infrastructure,很多人的第一個印...

鐵人賽 Build on Google AI DAY 5

技術 Day 05 如果AI Demo 成功,不代表 AI 專案成功,因為AI Engineer 的價值,不只是會使用 AI AGNET

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 實做 AI Demo 的時候,我們通常會先問一個問題:「它...

鐵人賽 Build on Google AI DAY 4

技術 Day 04 如果AI Engineer 不只是會呼叫 LLM API,那我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 從生成式 AI 普及之後,使用 LLM API 已經變得越...

鐵人賽 Build on Google AI DAY 3

技術 Day 03 如果我已經先跑多 AI Agent了,我為什麼開始研究 AI Infrastructure?

我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 2022年11底,我接觸ChatGPT等生成式 AI 之後...