寫到第三十天，這個系列也要告一段落了；雖然因為某些緣故導致比賽中斷了，但還是想要把整個系列寫清楚，也讓自己這些年累積的經驗沉澱下來。 前面從企業為什麼需要 AI...
Nano Banana 2.1是什麼？從一張教學圖開始，搞懂用途、操作與費用 把抽象概念變成可討論的畫面，也弄清楚哪些細節仍要自己掌握。 Nano Banana...
筆者在過去文章中提到的眾多 Guardrails案例、看起來只是多加一項檢查，實際在開發和部署時時卻得先問： 規則放在哪裡？ 如果寫在各個應用程式裡，哪...
Day 27 談的是如何選擇 Guardrails 元件。選好之後，企業還要面對另一個問題：當業務規則改變，這些元件能不能跟著調整，並且知道調整後的防護是否仍然...
選 Guardrails 元件，可以先從「這次需要拿回什麼結果」開始。 假設採購助手正在整理一份供應商比較報告。候選內容夾著不需要交付的姓名與私人電話，也多了一...
等模型講完才審查，不一定太晚。回覆如果還留在伺服器端，檢查通過後才交付，就仍然來得及阻擋；反過來，即使護欄在生成途中持續檢查，只要文字先送到了使用者端，後面的阻...
拿一般的大型語言模型（LLM），加上一段「請判斷這段文字是否安全，只回答 Safe 或 Unsafe」的提示，就能開始做安全判斷。既然如此，為什麼還要另外找一個...
當客服能直接建立申請、修改訂單或執行退款，Guardrails 就需要回答：這個 Agent 在這次任務中，被允許把流程推進到哪裡？ 一段回覆可以沒有髒話、沒有...
1. 前言：抽樣幾題體感良好的回答無法作為企業級AI助理上線的信心指標 前三天我們把行銷助理做出來了，Day 21 教它查資料，Day 22 讓它記得上下文，D...
產品文件可以提供保固條件；客服是否能收集資料、把資料送到哪裡，則由服務本身的政策與權限決定。RAG 把文件放進模型的上下文時，這兩種不同的權力，很容易在同一段文...
Guardrails 可以在回覆交付前，攔下部分缺乏來源支持的內容。但要說它「防止幻覺」，還得先問：這次檢查依據哪份資料，檢查了回答裡哪些主張？ 前一篇談的是客...
捷運客服拒絕回答「今天天氣如何」，可以是一個合理的產品選擇。前提是服務範圍已經說清楚，而且遇到「颱風會影響營運嗎」時，仍能辨認出應該受理的需求。 這兩句話都沒有...
延續前一篇文章：在Arduino UNO Q開發板上，使用Needle將文字輸入轉化為動作，接著往下進行更深入的開發。由於Cactus Needle模型只是針對...
一段客服逐字稿要交給摘要模型，但模型不能取得原始個資。姓名、電話和地址得遮住，顧客要查詢配送進度這件事又必須留下。做完去識別化後，怎麼確認這份資料能用？ 今天沿...
Day 14 裡，筆者遇過候選已經提供正式求助窗口，Judge 卻說它沒有提供的情況。Day 15 則談到另一個限制：Reward Model 能替同一組候選排...
前兩篇已經花了不少篇幅談 LLM-as-a-Judge：Day 13 說明它適合判斷哪些問題，Day 14 則處理 Judge 自己也可能誤判的情況。到了 Da...
上一篇 Day 13 談 LLM-as-a-Judge （下稱 Judge）適合處理什麼時，筆者把它的位置放得很清楚：由規則式（Rule）Guardrails...
在 Day 12 文章裡談規則式（Rule）Guardrails 時有個界線很明顯：有些事情只要條件寫得夠清楚，根本不需要 LLM As A Judge 來協助...
在 Day 10 的文章裡，筆者把合成資料的品質檢查拆成三層：先看資料結構，再用確定性規則核對已知條件，最後才把難以直接寫成規則的問題交給語意判斷。 讀者可能會...
Day 7 到 Day 10 分別談了 Seed、Stage、Dependency 與 Quality Control。四個部分各自拆清楚後，要把它們接成一條...
剛好鐵人賽挑戰進行到一半，休息一下吧！ 來聊聊 LLM 在駭客間的電子競技賽事 - CTF 中到底是怎麼崛起的，會比較偏向於自己的經驗以及社群中發生的大新聞。...
Day 9 把 redacted_text 和 entity_candidates 接回同一版 source_text。這能避免三份資料各說各話，卻還不能回答一...
昨天 Day 7 的文章先把一筆 Guardrails 測試案例寫成種子資料（Seed Contract），分清楚哪些條件要固定、哪些內容可以變化，以及哪些資訊...
上一篇先把 Guardrails 的六個驗收情境改寫成合成資料需求，並且分清楚三類條件：哪些一定要固定、哪些可以變化、哪些不能交給模型自行發明。 接下來很容易直...
在 Day 5 的文章中我們把「不要洩漏個資」拆成六個可以重跑的驗收情境，而文章最後留了一個很實際的問題：在測試 Guardrails 時三個案例可以手搓一搓生...
筆者在 Day 4的文章裡談到，企業為什麼不能只要求 Guardrail「接得上」或「能跑得動就好」。 當企業今天用了 A Guardrail，半年後可能換成...
筆者在 Day 3 的文章中把「不要洩漏個資」這句要求，拆成三件事： 系統要檢查什麼 照什麼規則判斷 發現問題後要怎麼處理 如果今天只有一個客服系統、一個模...
今天的文章來自 HTTP/2 Bomb - Calif [1] 這是一篇由資安公司 Calif 提出的研究，跟先前介紹過的 XBOW 一樣都是 LLM Driv...
生成式 AI 雖然能快速整理資訊，但如果缺少可靠的資料來源，仍可能產生內容錯誤或回答過時等問題。為改善這種情況，可以導入 RAG（Retrieval-Augme...
Day 2 把 Guardrails 可以介入的位置展開了：從使用者輸入、檢索資料，到工具執行前後，都可能需要控制。但架構圖、流程圖畫完，工程師還有一個問題沒得...
nerohin
summerzoe
whale120
iThome鐵人賽
看影片追技術