【Day 11】助教呀～～～～我不懂AI、RAG、CNN啊！！！不是，我不就是那個助教了嗎！？

▲ 圖 1：少年與向量空間的 Midjourney 概念示意圖

今天我們來回歸一下AI領域吧～
之前不算嗎？
欸～～～畢竟比較多是在應用面，
這邊不太會說Transformer、CNN、RNN、diffusion模型等等，
雖然我還不能很詳細的說明每個東西是什麼，
但是我自己也是要念的啊！
關於之前要考AI應用規劃師的時候！

中文系跨足 AI 的奇幻轉型：助教自己也是要念書的啊！

好吧，反正在大學後期跟研究所初期，其實自己已經有點從中文系轉型去AI了，不單單是在一些活動上面說明自己的成果，或者去考證照，擔任相關課程助教，舉辦校內工作坊這些。

回過頭來，確實要說點AI的東西也是可以啦～

因為最近也是在當學校生成式AI課程的助教，剛好看見教學材料在說RAG，不知道大家還記得前面在提及AI虛擬伴侶的時候，也有提及過RAG跟參考資料這兩回事。

▲ 圖 2：動用 Google AI 模式快速搜尋並初步釐清 RAG 架構

我們動用一下上次查詢法國擊劍協會光劍競賽規則的方法用Google AI模式初步回答一下RAG是什麼吧！畢竟我就是那種很難隨便碼出正確資訊的半斤八両🫠。

什麼是 RAG？從文字到數學的檢索增強生成

檢索增強生成（Retrieval-Augmented Generation，簡稱 RAG） 是一種結合「外部知識檢索」與「大型語言模型生成」的 AI 架構。

RAG 的核心運作原理
把 RAG 想像成一位在回答問題前先「查資料再作答」的助手，主要步驟包含：

• 檢索（Retrieval）：當使用者提問時，系統會將問題轉為向量，並從外部知識庫或資料庫中找出語意最相近的相關段落。
• 增強（Augmentation）：將檢索到的片段內容與原始問題一起打包成提示詞（Prompt）。
• 生成（Generation）：大型語言模型（LLM）根據這些特定資料進行推理，產出有根據的準確回答。

畢竟打開AI模型，無論是機器學習，還是所謂的深度學習，背後的運作基礎也是各種數學、向量、微積分、線性代數這。比起參考文件，似乎是把文件當中的文字化為prompt讓模型讀取，RAG的核心是用Embedding（嵌入）模型把參考資料變成向量，直接影響AI模型在運算時特別是Transformer架構的注意力機制，讓產出的文字及內容傾向及側重某個高維數學空間當中的知識區塊。

簡單點來說，AI模型運算是一大堆數學在跑，比起用文字影響數學，這邊是把文字變成數學再影響數學，從而更有效的減低產出來的文字跟內容幻覺的問題。

邏輯是這樣子～真的有什麼不太確定的問AI幫我補充就對了，當助教或者去補充自己稍微缺陷的知識盲點就是這樣子做。

好吧！那麼今天vibe coding什麼～

走進蔡炎龍老師的 Colab 課堂：親手跑出自己的 RAG 向量庫

▲ 圖 3：政治大學蔡炎龍老師豐富的神經網絡與機器學習 Colab 學習範本

話說我們的老師呢！是國立政治大學的蔡炎龍老師！在他的課堂當中都會有各種Google colab 跟AI，跟神經網絡，跟機器學習有關的模板供同學們學習、運行、修改。

▲ 圖 4：近期大學教授程式語言與 AI 相關課程時也經常使用 Google Colab

當中有一篇呢，是在說RAG，然後我突然在想起，我好像沒有試過用程式的方式做過一次自己的RAG呢～那麼就套用看看這個模板吧！

▲ 圖 5：第一次接觸 Hugging Face，不論是 API 或權限設定都能詢問 Google AI 模式協助釐清

不過這個模板的運行過程當中還是有些我運行不太行的地方⋯⋯不過現在Google colab旁邊也有AI可以輔助了！特別是這次是第一次接觸Hugging face，拿API，設定API權限什麼的，不懂可能就要問Google AI模式了🤣。

揭密運算成果：index.faiss 與 index.pkl 是什麼？

▲ 圖 6：Colab 執行後產出的兩個關鍵核心檔案：index.faiss 與 index.pkl

不過最後運算下來最後產出來的是兩個檔案，index.faiss 跟 index.pkl 會放在Google colab左手邊資料夾的部份，可以先下載下來，解壓縮。

• index.faiss（FAISS 檔案）：這是由 Meta（Facebook）開發的 FAISS（Facebook AI Similarity Search）向量資料庫檔案。
• index.pkl（Pickle 檔案）：這是 Python 用來序列化（打包）物件的標準格式。

通常產出了這兩個檔案之後就是要搭配好像之前AI虛擬伴侶的方式，串連生成式AI模型變成AI聊天機器人！

但是這次我要做點不同的，就是可視化高維數學空間頁面，把它變成一個「語意宇宙」！

因為這次我拿去變成RAG的文件是我過往的小說創作及散文創作文本，我是中文系的嘛～（其實沒有直接關係，之前也有說過🤣）

用 Antigravity 實戰 Vibe Coding：將向量空間化為「三維文學宇宙」

▲ 圖 7：在 Antigravity 中以自然語言 Prompt 指示 AI 開發 3D 視覺化頁面

不過沒關係這次的目標其實就非常簡單，把資料夾用Antigravity打開，要求說請對這個向量資料庫用html可是化出來。因為透過AI詢問知道這是什麼的Embedding模型，那麼指定一下。到最後就產出一個極為簡單的index.html。

💡 核心 Prompt 模組

請幫我讀取當前資料夾內的 FAISS 向量資料庫（包含 index.faiss 與 index.pkl），並生成一個單一獨立的 index.html 網頁來進行 3D 空間視覺化：
1. 3D 空間呈現：使用 Three.js 與降維方法，將資料庫中的高維文字向量映射至三維空間中展示。
2. 視覺效果：將每一個小說與散文的文本切片渲染為宇宙中的發光星點，支援滑鼠拖曳旋轉、滾輪縮放與視角漫遊。
3. 檢索機制模擬：模擬使用者提問時在語意空間切出的「球狀檢索範圍」，動態呈現 TopK、TopP 與 Temperature 參數對檢索球體半徑及捕捉資料節點的影響。
4. 介面風格：整體採用深邃星空風格，讓文本資料形成一片美麗的「文學語意宇宙」。

💡 提示：以上內容直接複製即為標準 Prompt！

打開了就能夠看見自己作品如何變成了一個三維的空間了，並且知道一下他會怎樣對AI聊天機器人產生效果！當AI聊天機器人運作時，便會在這個三維空間的特定部份產出一個球狀空間！球裏面的資料就會被捕捉，可能因為TopK、TopP、temperature的參數會影響那個球狀空間的大小還有可以捕捉到的資料量。

這聽起來還是很抽象吧⋯⋯

▲ 圖 8：親眼看見自己的文學作品在三維向量空間中綻放為璀璨星空！

不過看見自己的文字變成了一個⋯⋯宇宙？反正就是超好看的，可能也可以做一些風格化，或者讓他變成一個有趣的互動裝置？畢竟中文系也可以搞數位內容！

📌 本篇重點整理