技術問答
技術文章
iT 徵才
Tag
聊天室
2025 鐵人賽
登入/註冊
問答
文章
Tag
邦友
鐵人賽
搜尋
2025 iThome 鐵人賽
DAY
1
0
佛心分享-IT 人自學之術
深度學習Tensorflow 2.X
系列 第
14
篇
激勵函數
17th鐵人賽
ad0306122065
2025-09-12 23:42:52
48 瀏覽
分享至
Sigmoid函數
優點
能把輸入的連續實值換為0和1間的輸出,如果是非常大的負數,輸出就是0;如果是非常大的正數,輸出就是1。
連續的函數,方便求導數。
缺點
函數在變量取絕對值非常大的正值或負值時,會出現飽和現象,意味函數值左右兩端會變得很平坦,並對輸入的微小改變會不敏感。
反向傳播時,當梯度接近0,權重基本不會更新,易出現梯度消失,從而無法完成深層網路訓練。
計算複雜度高。
函數輸出不適0均值,會導致後層的神經元輸入是非0均值的訊號,會對梯度產生影響。
Tanh函數
ReLU(REctified Linear Unit,修正線性單元)
留言
追蹤
檢舉
上一篇
類神經網路(Neural Network,NN)
下一篇
激勵函數
系列文
深度學習Tensorflow 2.X
共
31
篇
目錄
RSS系列文
訂閱系列文
0
人訂閱
27
使用Dropout
28
神經網絡中的正則化:抑制過度擬合的關鍵技術
29
深度學習中的影像資料預處理與資料增強
30
卷積神經網路:從全連接網路的局限性談起
31
卷積層
完整目錄
熱門推薦
{{ item.subject }}
{{ item.channelVendor }}
|
{{ item.webinarstarted }}
|
{{ formatDate(item.duration) }}
直播中
立即報名
尚未有邦友留言
立即登入留言
iThome鐵人賽
參賽組數
902
組
團體組數
37
組
累計文章數
19706
篇
完賽人數
530
人
看影片追技術
看更多
{{ item.subject }}
{{ item.channelVendor }}
|
{{ formatDate(item.duration) }}
直播中
熱門tag
看更多
15th鐵人賽
16th鐵人賽
13th鐵人賽
14th鐵人賽
17th鐵人賽
12th鐵人賽
11th鐵人賽
鐵人賽
2019鐵人賽
javascript
2018鐵人賽
python
2017鐵人賽
windows
php
c#
linux
windows server
css
react
熱門問題
清掉所有cookie及暫存資料後,再次登入蝦皮還沒驗手機號前,就已偵測出我的帳號名稱!這是什麼技術?
M365 Outlook無法接收到 msa.hinet.net 網域信件
匯入edge系統管理範本後,原本的傳統系統管理範本遺失了
minecraft模組製作遇到BUG
群輝NAS套件Docker部署Outline
熱門回答
M365 Outlook無法接收到 msa.hinet.net 網域信件
清掉所有cookie及暫存資料後,再次登入蝦皮還沒驗手機號前,就已偵測出我的帳號名稱!這是什麼技術?
熱門文章
一鍵啟動 Gemini CLI ! 我的 Gemini CLI 懶人工具開發 & Gemini CLI 應用心得分享
D30|AI 時代的資訊判讀力:防詐、反假、識謊的新資安素養
[Day30]心得&總結
Traefik Let's Encrypt 實作筆記(DNS Challenge with GoDaddy)
Cisco 820-605 Customer Success Manager (CSM) 認證考試介紹
IT邦幫忙
×
標記使用者
輸入對方的帳號或暱稱
Loading
找不到結果。
標記
{{ result.label }}
{{ result.account }}