今天要來介紹M365 Copilot即Day06所提到的Copilot in Microsoft 365, 也就是上面鎮樓圖的Word, Power Point, Excel, Outlook, Teams, Form, OneNote加上一個Bing, 也是就是付費版的Copilot主要涵蓋的功能, 那之前也有提過Copilot Pro這個付費版本不包含Teams, 其他跟M365 Copilot相同, M365 Copilot的最大賣點就是它的RAG, 那甚麼是RAG? 這次鐵人賽有很多大大都有詳細介紹, 這邊不贅述, 我們引用wow_ppwx大大的圖如下

https://ithelp.ithome.com.tw/articles/10345204

這張圖是基本RAG的架構圖, RAG簡而言之就是讓LLM可以參考外部資料, 讓回答有依據, 不會胡說八道, 生成所謂的幻覺, 那接下來我們來看看M365 Copilot的架構圖跟基本RAG的架構圖有何不同? 本來是想直接拿2024版來解釋, 但是比較過2023版, 覺得2023版有提到觸發點, 比2024版來的好懂, 所以先來看2023版, 再用2024版補充

https://arbit.com.br/microsoft-copilot/

解析資料流程如下:

1. 使用者在M365的應用程式如Word或Excel, 在Copilot Chat輸入Prompt
2. Copilot存取Microsoft Graph和語義索引進行Grounding預處理
3. Copilot將修改後的Prompt發送給LLM
4. Copilot接收LLM的回應
5. Copilot存取Microsoft Graph和語義索引進行Grounding後處理
6. Copilot將回應和應用程式指令發送回M365應用程式

這邊有兩個重點要提一下, 第一個是Microsoft Graph, 也就是M365 RAG最重要的核心, Microsoft Graph裡面有M365應用程式產生的所有資料, 如SharePoint與OneDrive中所有Office 文件檔案, 還有Outlook的聯絡人, 郵件與會議, 甚至Teams 聊天紀錄與會議紀錄等, 如果有地端有裝上Agent依樣可以納入到Microsoft Graph的索引範圍中, M365 RAG關鍵的一步就是語義索引, 其實就是Day02與Day04提到的Embedding. 看到這有感受到M365 Copilot威力嗎? 在How Google Works的手繪簡報中有提到的現在企業裡的資訊都是封閉, 而這樣去面對環境變化的反應速度太慢了如下


https://www.managertoday.com.tw/columns/view/47451?

所以現在可以透過 M365 Copilot快速取得企業內部資訊, 而且還可以透過Prompt利用這些資訊取得見解或是開發相關應用, 在數位轉型的道路能走得更遠. 因為在Microsoft Graph的企業資料非常的重要, 所以透過Prompt來存取需要嚴格控管, 而這個控管的手段是Grounding, 也就是另一個要提的重點, Grounding是一個手法, 可以用檢視使用者的Prompt與LLM的產出是否合規? 若不符合規定, 會適當的修正, 有點類似守門員的味道, 所以在2023架構圖中可以看到Pre-processing與Post-processing都設置Grounding, 都是為了Copilot的產出要合規與合理, 微軟還將「Grounding」範圍限定為透過基於角色的存取控制 (RBAM), 對通過身份驗證的用戶開放檔案和資料的存取權限. 如企業HR相關的敘薪機密資訊便只會返回給HR負責敘薪員工的相關文件答案, 這也是微軟一直強調的負責任的AI.

接著我們來看一下2024的架構圖如下

https://learn.microsoft.com/en-us/copilot/microsoft-365/microsoft-365-copilot-overview

基本上2024涵蓋了2023, 然後新增了三點, 說明如下

1. Plug ins指的是可以用寫Code去客製M365 Copilot, 而Bing指的是在Bing裡面Copilot可以切換成付費的M365 Copilot, 就可以用Prompt去使用Microsoft Graph的企業資料, 下一篇會有實例來說明
2. Power Platform也納進這個架構中, Power Platform的Copilot Studio也能客製M365 Copilot
3. Pureview是微軟對於資料治理的新產品, 可以對Microsoft Graph資料進行更加細緻的控管如下
   
   https://www.microsoft.com/zh-tw/security/business/microsoft-purview#areaheading-oca579

看完上面的介紹是不是覺得M365 Copilot很威呢? 但夢想很美好, 現實很骨感, 要擁有M365 Copilot, 除了Office的授權外再加上每年一萬的費用, 以M365 E3+M365 Copilot以100人來計算, 每年就要200多萬了, 這也是很多中小企業還在觀望的原因啊! 等於是Office E3的授權費變兩倍的概念

https://www.facebook.com/groups/818139776290690
今年弄了個專頁, 歡迎加入討論, 可以收到貼文的更新通知