前篇文章透過下提示詞的方式讓 Chat GPT 可以化身為智能管家,不僅能幫忙控制家電還能回答一些額外的提問,這篇文章要來介紹之後會實作在 Spring 後端的 Semantic Kernel 的運作方式
在 Microsoft 提供的 Semanitc Kernel 中有以下三個重點:
依賴注入容器 ( Dependency Injection Container )簡稱 DI
Semantic Kernel的核心是一個稱為"kernel"的依賴注入容器。這個容器管理運行AI應用所需的所有服務和插件。
連接器集 ( Connectors )
Semantic Kernel SDK包含一組連接器,使開發人員能夠將大型語言模型(LLMs)和其他服務整合到現有的應用程式中。這些連接器充當程式碼和AI模型或服務之間的橋樑
結合提示和API
Semantic Kernel將提示(prompts)與現有的API結合,以執行各種操作。通過向AI模型描述情境,後續會根據情境選擇最適合的API
依賴注入容器,在Semantic Kernel中稱為"kernel",是整個框架的核心。它的主要功能包括:
在Semantic Kernel中,這個容器特別重要,因為它管理了與AI服務交互所需的所有組件,包括但不限於AI模型連接器、內存管理、插件等。
連接器是Semantic Kernel的重要組成部分,基本上就是在這邊註冊、添加自定義的功能,它們的主要作用包括:
這些連接器使得開發者可以更容易地在他們的應用中利用各種AI能力,而不需要為每個AI服務編寫專門的集成代碼。
這個概念體現了Semantic Kernel的核心理念,即將AI能力與傳統編程無縫結合:
通過這種方式,開發者可以利用AI的語言理解能力來增強現有的應用程序功能,創建更智能、更靈活的系統。