一 梯度

    函數(shù) z = f(x, y) 梯度表示為 ，其梯度方向始終指向函數(shù)較大值處。函數(shù) z = f(x, y) 幾何圖形需要三維空間表示，為了更方便觀察函數(shù)，可以使用二維平面上等高線表示函數(shù)。例如：函數(shù) 等高線可表示為XY平面上的同心圓。同理，函數(shù) f(x, y, z) 梯度表示為 ，可以使用三為空間等值面表示函數(shù)。

    函數(shù)梯度與等高線（或等值面）關(guān)系：任意點(diǎn)函數(shù)梯度向量垂直于該點(diǎn)所在等高線（或等值面）。

    針對(duì)二維函數(shù)，其推導(dǎo)如下：

    1）函數(shù) z = f(x, y) 在XY平面上取任意一條等高線 f(x, y) = c ，將該條等高線上點(diǎn)表示為變量 t 的函數(shù)：x = x(t), y = y(t)，等高線可表示為 f(x(t), y(t)) = c；

    2）在等高線上取任意一點(diǎn)，沿等高線移動(dòng)一小段距離，函數(shù)值保持不變，則有：，

         ， 表示沿登高線切線方向，則可證明梯度垂直于等高線。

    針對(duì)三維函數(shù)，思路與二維函數(shù)基本一致。首先選擇等值面 f(x, y, z) = c ， 在等值面上任意選取一條曲線：x = x(t), y = y(t), z = z(t)，等值面上任意一條曲線可表示為f(x(t), y(t), z(t)) = c 。然后沿該曲線移動(dòng)一小段距離，函數(shù)值保持不變，則有 ，  為等值面上任意一條曲線切線方向，表明梯度與等值面切線方向垂直，可證明梯度垂直于等值面。

二 方向梯度

    針對(duì)多元函數(shù)，使用偏導(dǎo)可以得到坐標(biāo)軸方向上函數(shù)變化情況。使用方向梯度，可以得到任意方向上函數(shù)變化情況。定義任意方向單位向量 ，沿單位向量移動(dòng)單位距離，坐標(biāo)軸變化情況為：。通過(guò)建立x,y 與 s 的復(fù)合關(guān)系，函數(shù) f(x, y) 可改寫(xiě)為  f(x(s), y(s))， 則有 。

    因此，沿u方向上的方向梯度等于函數(shù)沿坐標(biāo)軸上梯度向量與單位方向向量的點(diǎn)積。進(jìn)一步觀察可得：，其中  為函數(shù)梯度向量與方向向量夾角。當(dāng)梯度向量與方向向量平行時(shí)，函數(shù)在該點(diǎn)取得最大方向?qū)?shù)（反向?yàn)樨?fù)值）；當(dāng)梯度方向與方向?qū)?shù)反向時(shí)，函數(shù)在該點(diǎn)方向?qū)?shù)為零。

    心得：根據(jù)以上推導(dǎo)，方向?qū)?shù)不可能在兩個(gè)正交方向上均取得較大值，而在角點(diǎn)檢測(cè)中，使用自相關(guān)函數(shù)檢測(cè)在兩個(gè)正交方向上均有較大變化的點(diǎn)，則該點(diǎn)應(yīng)該為一個(gè)奇點(diǎn)（不可導(dǎo)）。

               在圖像處理中，一般使用梯度方向作為邊緣方向，而圖像并非嚴(yán)格函數(shù)，通常會(huì)得到一些偏差較大邊緣方向，是否可以通過(guò)考察等高線上梯度值來(lái)獲得更好的邊緣方向？

三 拉格朗日乘數(shù)法

    求解函數(shù) f(x, y, z) 在限定條件 g(x, y, z) = c 時(shí)取得極值。

    方法一：通過(guò) g(x, y, z) = c 消除一個(gè)變量，可以將函數(shù) f(x, y, z) 改寫(xiě)成二元函數(shù)，使用一階偏導(dǎo)尋找到極值點(diǎn)。

    方法二：使用拉格朗日乘數(shù)法，當(dāng)函數(shù) f(x, y, z) 取得極值時(shí)，滿足 ，g(x, y, z) = c，結(jié)合以上條件即可求解極值點(diǎn)，推導(dǎo)如下：

    1）在 g(x, y, z) = c 等值面上任意取一點(diǎn)，該點(diǎn)如果為函數(shù) f(x, y, z) 上的極值點(diǎn)，則沿該點(diǎn)任意方向上，其方向梯度滿足：，則在 f 上梯度方向垂直于g所在切平面；

    2）g 上梯度方向垂直于g所在切平面；

    3）。

    例：求解f(x,y)極值，，根據(jù)拉格朗日乘數(shù)法，建立如下關(guān)系：

        ，可求解函數(shù) f 在限定 g 下的極值。

    拉格朗日乘數(shù)法無(wú)法區(qū)分極大值或極小值，一般通過(guò)比較得到最大值或最小值。

參考：多變量微積分   Prof. Denis Auroux