今天我們來講XAI。
可解釋AI，顧名思義，它強調開發機器學習和人工智慧模型，以使其**決策和行為能夠被人類理解和解釋。**揭示其決策依據和邏輯，提升透明度和可信度，促進對AI的信任和應用，讓使用者理解並信任其輸出。
傳統上，許多機器學習和深度學習模型被視為黑箱，因為它們雖然能夠提供高性能的預測和決策，但往往缺乏解釋為什麼做出這些預測或決策的能力。可解釋AI就是為了解決此問題而衍伸的。
可解釋AI的技術可以分為兩大類：
(1)模型解釋: 這類方法和技術旨在解釋人工智慧模型的內部運作。例如: 可以使用可視化技術來顯示模型如何處理數據，或使用統計方法來分析模型的決策過程。
(2)結果解釋：這類方法和技術旨在解釋人工智慧模型的輸出。例如: 可以使用邏輯推理來推斷人工智慧模型的決策理由，或使用自然語言處理技術來生成人工智慧模型的決策解釋。
假設有貓和狗的圖片，XAI需向人類解釋其判別模式(貓狗耳朵形狀…)和依據，來達成可信度
iThome鐵人賽
看影片追技術