技術問答
技術文章
iT 徵才
Tag
聊天室
2025 鐵人賽
登入/註冊
問答
文章
Tag
邦友
鐵人賽
搜尋
2025 iThome 鐵人賽
DAY
1
0
佛心分享-IT 人自學之術
深度學習Tensorflow 2.X
系列 第
14
篇
激勵函數
17th鐵人賽
ad0306122065
2025-09-12 23:42:52
41 瀏覽
分享至
Sigmoid函數
優點
能把輸入的連續實值換為0和1間的輸出,如果是非常大的負數,輸出就是0;如果是非常大的正數,輸出就是1。
連續的函數,方便求導數。
缺點
函數在變量取絕對值非常大的正值或負值時,會出現飽和現象,意味函數值左右兩端會變得很平坦,並對輸入的微小改變會不敏感。
反向傳播時,當梯度接近0,權重基本不會更新,易出現梯度消失,從而無法完成深層網路訓練。
計算複雜度高。
函數輸出不適0均值,會導致後層的神經元輸入是非0均值的訊號,會對梯度產生影響。
Tanh函數
ReLU(REctified Linear Unit,修正線性單元)
留言
追蹤
檢舉
上一篇
類神經網路(Neural Network,NN)
下一篇
激勵函數
系列文
深度學習Tensorflow 2.X
共
31
篇
目錄
RSS系列文
訂閱系列文
0
人訂閱
27
使用Dropout
28
神經網絡中的正則化:抑制過度擬合的關鍵技術
29
深度學習中的影像資料預處理與資料增強
30
卷積神經網路:從全連接網路的局限性談起
31
卷積層
完整目錄
熱門推薦
{{ item.subject }}
{{ item.channelVendor }}
|
{{ item.webinarstarted }}
|
{{ formatDate(item.duration) }}
直播中
立即報名
尚未有邦友留言
立即登入留言
iThome鐵人賽
參賽組數
902
組
團體組數
37
組
累計文章數
16073
篇
完賽人數
183
人
看影片追技術
看更多
{{ item.subject }}
{{ item.channelVendor }}
|
{{ formatDate(item.duration) }}
直播中
熱門tag
看更多
15th鐵人賽
16th鐵人賽
13th鐵人賽
14th鐵人賽
12th鐵人賽
17th鐵人賽
11th鐵人賽
鐵人賽
2019鐵人賽
javascript
2018鐵人賽
python
2017鐵人賽
windows
php
c#
linux
windows server
css
react
熱門問題
如何使用RPA軟體搜尋相關新聞
Analysis Services資料庫還原失敗
對Kotlin的sealed class機制不太清楚
excel web adi 巨集,出現網頁指令碼錯誤
發文一直被判定廣告或垃圾訊息
opencart4.1套件更新
如何控制被我走私的Web Shell?
熱門回答
如何使用RPA軟體搜尋相關新聞
熱門文章
[為你自己學 n8n] 第 15 天,關在小房間的天才:AI Agent 突圍記!
[為你自己學 n8n] 第 16 天,我的 Line 機器人會記帳!(上)
07-01:Gemini協助下的完美市集策劃
[為你自己學 n8n] 第 18 天,我的 Line 機器人會記帳!(下)
[為你自己學 n8n] 第 17 天,我的 Line 機器人會記帳!(中)
IT邦幫忙
×
標記使用者
輸入對方的帳號或暱稱
Loading
找不到結果。
標記
{{ result.label }}
{{ result.account }}