iT邦幫忙

semantic kernel相關文章
共有 29 則文章
鐵人賽 生成式 AI DAY 17

技術 AI Agent:認識 AI Agent

AI 代理(AI Agent),代替人類處理一連串的動作以完成目標(目標導向),稱之為AI代理,也有人把它稱為智能體,但智能體這個詞更抽象些,因此我還是習慣叫做...

鐵人賽 生成式 AI DAY 1

技術 今晚該選擇使用 API 還是框架 ?

該選擇 API 還是框架呢? 第1天先來輕鬆聊聊。 在生成式 AI 應用的開發過程中,我們可能會面臨一個關鍵的選擇:應該選擇直接使用 API (例如OpenAI...

鐵人賽 生成式 AI DAY 24

技術 打破迷思:Semantic Kernel 飛天接地,實現地端模型連接!

隨著生成式 AI 的爆炸式發展,越來越多的開發者或企業希望可以在地端執行大語言模型(LLM),不僅能確保資料隱私,更能減少對雲端服務的依賴,當然這裡也涉及到企業...

鐵人賽 生成式 AI DAY 27

技術 RAG 篇章 - 向量概念

生成式AI除了常聽到文案寫作、翻譯之外,RAG 應該是另一個也很常聽見或看到的應用。RAG 是「檢索增強生成」(Retrieval-Augmented Gene...

鐵人賽 生成式 AI DAY 3

技術 認識 Kernel

上一篇概述了 Semantic Kernel 的核心組成,本篇將更深入探討 Kernel 的使用,並透過一個入門範例來展示如何進行設定與操作。本範例著重於展示一...

鐵人賽 生成式 AI DAY 2

技術 你好 Semantic Kernel

在開始使用Semantic Kernel之前,我們先針對 Semantic Kernel 做個概觀以理解這個框架的核心組成,會有助於後續文章的閱讀。 支援...

鐵人賽 生成式 AI DAY 22

技術 打破迷思:Semantic Kernel 不只有 OpenAI,還能連接 Hugging Face 生成 LLM 應用!

許多開發者在聽到 Semantic Kernel 是 Microsoft 開源的時後,會自然聯想到是不是只能搭配 OpenAI 或 Azure OpenAI,再...

鐵人賽 生成式 AI DAY 16

技術 Function Calling:圖解 Function Calling

Function Calling ,它允許大型語言模型(LLM)在生成回應過程中,能根據輸入的 prompt 動態呼叫預定義的 Function 來執行具體的操...

鐵人賽 生成式 AI DAY 8

技術 Prompt — 使用 Prompt Template

開發者們應該都了解,Prompt 是啟動生成式 AI 的關鍵。Prompt 的品質好壞,直接影響生成結果是否符合預期。因此,在開發生成式應用時,常會需要設計 P...

鐵人賽 生成式 AI DAY 7

技術 Plugin 的魔力 — Function 的設計策略

在本篇開始之前,讓我再一次說明 Plugin 與 Function 的關係性,這也是初次接觸 Semantic Kernel 的開發者容易混淆的地方,簡單來說...

鐵人賽 生成式 AI DAY 21

技術 AI Agent:Multi AI Agents 依目標任務委派 Agent

今天依然是 Multi AI Agents 主題,只不過今天的 Multi AI Agents 概念上不同於上一篇的協同合作,而是這些 Multi AI Age...

鐵人賽 生成式 AI DAY 20

技術 AI Agent:多次輪回的 AI Agents 協同合作

上一篇的 AI Agent 協同合作是基於單向 Workflow 的場景,適合有固定作業流程,並且有順序性且單向作業。而這一次場景同樣採取 Multi Agen...

鐵人賽 生成式 AI DAY 5

技術 Plugin 的魔力 — 第一次見面

生成式 AI 的強大,相信大家都已經認同。然而,即使是生成式 AI,其模型依然依賴機器學習的預訓練。因此,在不依賴外部資訊的情況下,所有的回應都是基於過去訓練資...

鐵人賽 生成式 AI DAY 9

技術 Prompt — 呼叫 LLMs 的多種寫法

在前面幾篇的範例中,除了使用 ChatCompletionService 搭配 ChatHistory 建立具有短期記憶對話歷史記錄的呼叫之外,另一個呼叫方式就...

鐵人賽 生成式 AI DAY 11

技術 生成式AI入門應用 - Chatbot UI 與非 Chatbot 的選擇(英文小老師應用)

許多討論生成式 AI 應用時,經常會聯想到 Chatbot。不可否認,Chatbot 確實符合人類的慣用操作體驗,因為它能模擬自然對話。然而,對話模式也充滿不確...

鐵人賽 生成式 AI DAY 19

技術 AI Agent:基於 Workflow 的國際新聞摘要與翻譯 Multi AI Agent 應用

「每天都有大量的國際新聞湧現,如何有效率獲取得並理解這些資訊成為挑戰。過去,透過 APP 或網站瀏覽新聞,整理相關資訊往往費時且不便。而如果有一個代理人能幫你收...

鐵人賽 生成式 AI DAY 18

技術 AI Agent:基於 Semantic Kernel 的辦公室 AI Agent 應用

前一篇文章,我試圖勾勒我對 AI Agent 的理解,本篇內容讓我用 Semantic Kernel 來實作一個基本款的辦公室 AI Agent 應用,展示 A...

鐵人賽 生成式 AI DAY 15

技術 Function Calling:監看 Auto Function Calling

Function Calling 是賦予LLMs應用強大能力的一個很重要的機制,它可以使得LLM模型增強其延伸的能力(但不是LLMs真的自已能調用工具)。 假設...

鐵人賽 生成式 AI DAY 30

技術 RAG 篇章 - 使用 Kernel Memory 與 Qdrant 向量資料庫實作 RAG

在前面二篇的文章裡,範例均是以文字陣列資料做為向量處理的來源資料,而實務上可能面臨更多的來源資料格式,包含:Web pages、PDF、Word、Markdow...

鐵人賽 生成式 AI DAY 4

技術 建立 Kernel 不同的寫法與 Role Prompt 的實現

在上一篇文章,使用一個入門範例示範如何建立 Kernel 以及與 LLMs 進行對話,在那個範例裡並沒有涉及到使用 OpenAI GPT 模型常用的 Syste...

鐵人賽 生成式 AI DAY 29

技術 RAG 篇章 - 使用 Qdrant 向量資料庫

當我們談到 RAG 應用的時候,除了向量化之外,另一個重點就是向量資料庫,與傳統資料庫不同,向量資料庫是專門為了高維度資料以及相似度搜尋而存在的,目前市場有許多...

鐵人賽 生成式 AI DAY 10

技術 生成式AI入門應用 - 生成 json 格式內容(多國語言翻譯應用)

過去想要 LLMs 生成 json 格式的回應內容,只能從 Prompt 要求 LLMs 回應 json 格式,但是如果只是用文字描述,基於 LLMs 的隨機生...

鐵人賽 生成式 AI DAY 12

技術 生成式AI的多樣應用:從文字到圖像

到目前為止所展示的範例,都是文字生成類的,但是生成式AI(Generative AI)不僅僅能夠生成文字內容,還能夠生成圖像。例如:OpenAI 的 DALL-...

鐵人賽 生成式 AI DAY 14

技術 生成式AI的多樣應用:文本與語音

生成式AI在文本應用相當廣泛,連帶也延伸至其它領域的應用,就像前面的以文生圖。而本篇就來看文本與語音領域的應用,分別是語音轉文本(STT)和文本轉語音(TTS)...

鐵人賽 生成式 AI DAY 25

技術 LLM 別再亂來!收服 Prompt 和 Plugin Function

在開發 LLM(大型語言模型)應用的過程中,有沒有發現有時候執行的結果跟你預期的有點不一樣?你設計的 Prompt(提示語)或是 Plugin function...

鐵人賽 生成式 AI DAY 23

技術 打破迷思:Semantic Kernel 不只有 OpenAI,連接 Google AI 也大丈夫滴!

上一篇打破迷思示範如何連接 Hugging Face,這一次換成 Google AI 也大丈夫滴。眾所皆知目前除了 OpenAI(Azure OpenAI)...

鐵人賽 生成式 AI DAY 26

技術 好夥伴:整合 Azure AI Inference SDK

我想大多數開發者都聽過 Azure OpenAI (又稱AOAI),但應該比較少開發者聽過 Azure AI Studio 以及 Azure AI Infere...

鐵人賽 生成式 AI DAY 28

技術 RAG 篇章 - 運用快閃記憶體實現向量檢索

上一篇講了 RAG 應用裡很重要的向量處理,這次要來聊聊怎麼用快閃記憶體來搞定向量資料的儲存以及進行快速檢索的做法。這個示範不使用任何向量資料庫產品,單純以快閃...

鐵人賽 生成式 AI DAY 13

技術 生成式AI的多樣應用:從文字到圖像 II - 使用Plugin

前一篇文章示範使用 Semantic Kernel 內建的模型連接服務串接 OpenAI 的 DALL-E 模型,快速做成一個以文生圖的應用,然而有些時候這些內...