iT邦幫忙

2025 iThome 鐵人賽
DAY 24
0
自我挑戰組

找工作期間不要讓自己太廢系列 第 24 篇

DAY 24

17th鐵人賽
7 瀏覽

  • 分享至 

  • xImage
    •  

AI是黑盒子的原因

  • transparency(非開源)
  • interpretable(思維非透明)
  • explainable(沒有可解釋性)

如何讓模型explainable

找出影響輸出的關鍵輸入的方法與好處:

  • 加速模型、預估模型能力
  • gradient-based:判斷輸入的每個詞彙與輸出之間的關係
  • 分析attention weights

找出影響輸出的關鍵訓練資料:
分析embedding中存的資訊

  • probing: 訓練詞性分類器，偵測embedding對應的token的詞性是甚麼
  • LM embryology(語言模型胚胎學):在模型訓練過程中就使用probing
  • 將embedding投影至二維平面上，做可視化
  • 語言模型測謊器:將瞎掰資訊的embedding收集起來，並放入訓練過的測謊器中，判斷語言模型是否在瞎掰

使用prompt:

  • 直接問語言模型的每個輸出文字對他判斷的重要性
  • 問語言模型對自己的輸出的信心分數

上一篇
DAY 23
系列文
找工作期間不要讓自己太廢 共 24 篇
  1. 20
    DAY 20
  2. 21
    DAY 21
  3. 22
    DAY 22
  4. 23
    DAY 23
  5. 24
    DAY 24
完整目錄
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言
iThome鐵人賽
iThome鐵人賽
參賽組數
902 組
團體組數
37 組
累計文章數
17180 篇
完賽人數
202 人
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 16th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 17th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# linux windows server css react
熱門問題
熱門回答
熱門文章
IT邦幫忙