Day 5 : 有限制條件之最佳化 - Lagrange multiplier theorem - iT 邦幫忙::一起幫忙解決難題，拯救 IT 人的一天

第 11 屆 iThome 鐵人賽

DAY 5

AI & Data

連接數學與現實世界的橋樑 -- 數學建模系列第 5 篇

Day 5 : 有限制條件之最佳化 - Lagrange multiplier theorem

11th鐵人賽 lagrange multiplier theorem

spidyjames

2019-09-06 23:55:52

5686 瀏覽

今天來討論具有複雜結構的最佳化問題。在實際的問題中，勢必存在著對獨立變項的限制條件，比如說如何在有限的成本中，獲取最大利益，此時就須要考慮較複雜的模型。

限制條件可分為等式限制以及不等式限制(此處都以多變量函數為主)，等式限制會談到Lagrange Multiplier Theorem，不等式限制則會提到Karnh-Kuhn-Tucker Theorem。

先來介紹限制條件的最佳化之一般化模型，
find a design vector $\bar{X} = (x_1, x_2, \dots , x_n)$ to
min $f(\bar{X}) = f(x_1, x_2, \dots , x_n)$
s.t. $h_i(\bar{X}) = 0, i=1, \dots , p$
$g_j(\bar{X}) \le 0 , j=1, \dots , m$

限制條件會影響最佳解出現的位置。如下圖，限制條件就是藍色線，解就只能從X軸、Y軸以及藍色線所圍起來的空間中去選取，此空間稱為feasible region。

等式限制之必要條件

Find $\bar{X}$ to
min $f(\bar{X})$
s.t. $h_i(\bar{X}) = 0, i=1, \dots , p$

正則點(Regular point)，

定義

若 $h(\bar{X}^{\ast}) = 0, i=1, \dots , p$ ，且在點 $\bar{X}^{\ast}$ 可使限制條件函數之梯度向量為線性獨立，則點 $\bar{X}^{\ast}$ 稱為正則點。

Lagrange Multiplier Theorem
令 $\bar{X}^{\ast}$ 為一正則點，且為上述問題之區域最小點，則存在一組Lagrange multiplier ${\upsilon_j}^{\ast}, j=1, \dots , p$ ，使得

定義

Lagrange function

範例

Day 4 : 無限制條件之最佳化

Day 6 : 有限制條件之最佳化 - KKT定理

系列文

連接數學與現實世界的橋樑 -- 數學建模共 30 篇

RSS系列文訂閱系列文

25 人訂閱

完整目錄

直播研討會

{{ item.channelVendor }} {{ item.webinarstarted }} |

直播中

尚未有邦友留言

立即登入留言

連接數學與現實世界的橋樑 -- 數學建模系列 第 5 篇

Day 5 : 有限制條件之最佳化 - Lagrange multiplier theorem

等式限制之必要條件

定義

定義

範例

尚未有邦友留言

標記使用者

連接數學與現實世界的橋樑 -- 數學建模系列第 5 篇