在前面二篇的文章裡，範例均是以文字陣列資料做為向量處理的來源資料，而實務上可能面臨更多的來源資料格式，包含：Web pages、PDF、Word、Markdow...
當我們談到 RAG 應用的時候，除了向量化之外，另一個重點就是向量資料庫，與傳統資料庫不同，向量資料庫是專門為了高維度資料以及相似度搜尋而存在的，目前市場有許多...
上一篇講了 RAG 應用裡很重要的向量處理，這次要來聊聊怎麼用快閃記憶體來搞定向量資料的儲存以及進行快速檢索的做法。這個示範不使用任何向量資料庫產品，單純以快閃...
生成式AI除了常聽到文案寫作、翻譯之外，RAG 應該是另一個也很常聽見或看到的應用。RAG 是「檢索增強生成」（Retrieval-Augmented Gene...
我想大多數開發者都聽過 Azure OpenAI (又稱AOAI)，但應該比較少開發者聽過 Azure AI Studio 以及 Azure AI Infere...
在開發 LLM（大型語言模型）應用的過程中，有沒有發現有時候執行的結果跟你預期的有點不一樣？你設計的 Prompt（提示語）或是 Plugin function...
隨著生成式 AI 的爆炸式發展，越來越多的開發者或企業希望可以在地端執行大語言模型（LLM），不僅能確保資料隱私，更能減少對雲端服務的依賴，當然這裡也涉及到企業...
上一篇打破迷思示範如何連接 Hugging Face，這一次換成 Google AI 也大丈夫滴。眾所皆知目前除了 OpenAI(Azure OpenAI)...
許多開發者在聽到 Semantic Kernel 是 Microsoft 開源的時後，會自然聯想到是不是只能搭配 OpenAI 或 Azure OpenAI，再...
今天依然是 Multi AI Agents 主題，只不過今天的 Multi AI Agents 概念上不同於上一篇的協同合作，而是這些 Multi AI Age...
上一篇的 AI Agent 協同合作是基於單向 Workflow 的場景，適合有固定作業流程，並且有順序性且單向作業。而這一次場景同樣採取 Multi Agen...
「每天都有大量的國際新聞湧現，如何有效率獲取得並理解這些資訊成為挑戰。過去，透過 APP 或網站瀏覽新聞，整理相關資訊往往費時且不便。而如果有一個代理人能幫你收...
前一篇文章，我試圖勾勒我對 AI Agent 的理解，本篇內容讓我用 Semantic Kernel 來實作一個基本款的辦公室 AI Agent 應用，展示 A...
AI 代理（AI Agent），代替人類處理一連串的動作以完成目標（目標導向），稱之為AI代理，也有人把它稱為智能體，但智能體這個詞更抽象些，因此我還是習慣叫做...
Function Calling ，它允許大型語言模型（LLM）在生成回應過程中，能根據輸入的 prompt 動態呼叫預定義的 Function 來執行具體的操...
Function Calling 是賦予LLMs應用強大能力的一個很重要的機制，它可以使得LLM模型增強其延伸的能力(但不是LLMs真的自已能調用工具)。 假設...
生成式AI在文本應用相當廣泛，連帶也延伸至其它領域的應用，就像前面的以文生圖。而本篇就來看文本與語音領域的應用，分別是語音轉文本（STT）和文本轉語音（TTS）...
前一篇文章示範使用 Semantic Kernel 內建的模型連接服務串接 OpenAI 的 DALL-E 模型，快速做成一個以文生圖的應用，然而有些時候這些內...
到目前為止所展示的範例，都是文字生成類的，但是生成式AI（Generative AI）不僅僅能夠生成文字內容，還能夠生成圖像。例如：OpenAI 的 DALL-...
許多討論生成式 AI 應用時，經常會聯想到 Chatbot。不可否認，Chatbot 確實符合人類的慣用操作體驗，因為它能模擬自然對話。然而，對話模式也充滿不確...
過去想要 LLMs 生成 json 格式的回應內容，只能從 Prompt 要求 LLMs 回應 json 格式，但是如果只是用文字描述，基於 LLMs 的隨機生...
在前面幾篇的範例中，除了使用 ChatCompletionService 搭配 ChatHistory 建立具有短期記憶對話歷史記錄的呼叫之外，另一個呼叫方式就...
開發者們應該都了解，Prompt 是啟動生成式 AI 的關鍵。Prompt 的品質好壞，直接影響生成結果是否符合預期。因此，在開發生成式應用時，常會需要設計 P...
在本篇開始之前，讓我再一次說明 Plugin 與 Function 的關係性，這也是初次接觸 Semantic Kernel 的開發者容易混淆的地方，簡單來說...
生成式 AI 的強大，相信大家都已經認同。然而，即使是生成式 AI，其模型依然依賴機器學習的預訓練。因此，在不依賴外部資訊的情況下，所有的回應都是基於過去訓練資...
在上一篇文章，使用一個入門範例示範如何建立 Kernel 以及與 LLMs 進行對話，在那個範例裡並沒有涉及到使用 OpenAI GPT 模型常用的 Syste...
上一篇概述了 Semantic Kernel 的核心組成，本篇將更深入探討 Kernel 的使用，並透過一個入門範例來展示如何進行設定與操作。本範例著重於展示一...
在開始使用Semantic Kernel之前，我們先針對 Semantic Kernel 做個概觀以理解這個框架的核心組成，會有助於後續文章的閱讀。 支援...
該選擇 API 還是框架呢？ 第1天先來輕鬆聊聊。 在生成式 AI 應用的開發過程中，我們可能會面臨一個關鍵的選擇：應該選擇直接使用 API （例如OpenAI...
Ian
iThome鐵人賽
看影片追技術