基于正定矩陣的多元函數極值判定及應用

盧里舉

[摘 ? ? ? ? ? 要] ?首先，從二次型多項式的正定性判別出發，研究二次型的極值問題，得到正交變換可保駐點和極值點不變性，并從理論上解決了一般二次函數轉化為二次型問題;其次，采用泰勒展開法，將多元函數在駐點處進行二階泰勒展開，并考查系數矩陣的定性，并依此得到極值判定的充分條件;最后，給出該方法在多元線性回歸中計算回歸系數的應用.

[關 ? ?鍵 ? 詞] ?二次型;正（負）定;二次多項式;極值判定;泰勒展開;多元線性回歸

[中圖分類號] ?G712 ? ? ? ? ? ? ? ? ? [文獻標志碼] ?A ? ? ? ? ? ? ? ? ? ?[文章編號] ?2096-0603（2018）27-0148-02

一、二次型的極值

在線性代數理論中，采用的正交變換使一般二次型多項式成為標準化.而正交變換保證了保角和保長的性質，這表明函數在表示幾何曲面的意義下，通過正交變換，能保持曲面幾何不變性，只是在位置上發生一定的變化，同時，在標準形式下，更容易分析曲面的幾何性質.事實上，在代數形態下，函數的某些形態也具有不變性，在二次型的極值研究中，正交變換還具有保駐點不變和保極值點不變的性質.二次型標準化的形式為：

f（x）=f（x1，…，xn）=■aiixi2+2■aijxixj=xAxT=■λiyi2

注意到，如果特征根全為正，其標準型存在唯一的極值點（也是最小值點）y=0.于是函數f（x）的最小值點為：0=y=xP，由正交變換的可逆性，于是x=0.

關于二次型的定性和極值點的判別：

1.系數矩陣是正定（負定）的，特征根全為正（負），此時函數存在唯一的極值點x=0，也是最小（大）值點.

2.系數矩陣是未定型的，同時存在正的和負的特征根，此時函數存在駐點x=0，但駐點不是極值點，因此，函數不存在極值點;事實上，不妨設標準化中的第一二兩個特征根分別為正數和負數，那么，第一、二分量的0的鄰域內，函數取值既有正數和負數，而f（0）=0.

3.系數矩陣是半正定（負定）的，此時，特征根為0或者是正（負）的，并且由矩陣論可知正特征根的個數為系數矩陣的秩，那么函數存在極值點，也是最小（大）值點，這些極值點構成超平面S，其維數滿足r（S）=n-r（A）;事實上，不妨設λ1，…，λK>0，k=r（A），在標準型中，只要取？坌y1，…，yk=0，yk+1，…，yn≠0，f（x）=0其對應的x≠0，并且構成的空間S維數為r（S）=n-r（A）.

二、二次型的平移與二次多項式

對二次型函數的研究，還可以將之一般化，考慮對二次型函數采用平移變換，得到形式：

f（x）=f（x1，…，xn）=■aii（xi-xi0）2+2■aij（xi-xi0）（xj-xj0）

=■aii（xi2-2xixi0+xi02）+2■aij（xixj-xi0xj-xixj0+xi0xj0）

=■aiixi2+2■aijxixj-2■bixi-2■cjxj+d

其極值點的存在性，可與標準二次型的極值進行類比討論，決定因素依然是系數矩陣的定性.比如，在系數系數矩陣的特征根全為正（負）的，函數存在唯一的極值點x0=（x10，…，xn0）.

由線性方程的性質知：一般二次型函數通過平移，能化為二次型的充要條件是二次函數存在駐點.針對一般形式，其平移為二次型的做法就是，對存在駐點的，先求解駐點，再將之改寫為二次型，而對駐點不存在的，則不能改寫為二次型.

比如：f（x，y）=x2+y2+2xy+4x+2y，滿足fx=2x+2y+4=0及fy=2y+2x+2=0的點不存在，故而該函數不能寫成標準二次型.另外，如果該函數能寫成二次型形式：f（x，y）=（x-a）2+（y-b）2+

k（x-a）（y-b），將其展開，并比較系數得k=2，a+b=-2，并且a+b=-1，這是不可能的，或者說關于待定常數a，b是無解的，這也表明該函數不能寫成標準二次型.

以上研究表明，不是任意的一般二次函數形式，都能改寫成標準二次型形式，只有在一定的條件下方可標準化.那么，怎樣的條件，可保證標準化？事實上，存在駐點的一般二次函數就具有這種特征.設一般二次函數f（x）=f（x1，…，xn）=■aiixi2+■aijxixj-■bixi+d，令■=2aiixi+■aijxj-bi=0，記系數矩陣列向量αi=（■aij，■aij，…，2aii，…，■aij）T，β=（b1，b2…，bn）T，那么，由線性方程解存在的條件可知，存在駐點的充要條件是系數矩陣的秩與系數增廣矩陣的秩相等，即r（α1，…，αn）=r（α1，…，αn，β）=m同時，如果m=n，此時駐點是唯一的;如果m

例如f（x，y）=x2+2y2+4xy+2x+4y，滿足fx=2x+4y+2=0及fy=4y+4x+4=0，得到駐點為（-1，0），故而該函數可寫成二次型f（x，y）=（x+1）2+2y2+4（x+1）y-1.

三、多元函數的二次型展開與極值判定

在二元函數極值的問題研究中，眾多文獻均給出了極值判定的充分條件.其依據是建立在對二元函數的二階泰勒展開，同時，給出在系數矩陣的正（負）定時，極值的判別.以下將針對更高維度的多元函數的極值給出判定方法，并指出相應的理論依據.

對于元多函數f（x）=f（x1，…，xn）.如果存在x0=（x10，…，xn0）使得■|■=0，即存在駐點，記二階偏導數為fij（x0）=■|■=aij，并且二階偏導數均連續.那么函數在駐點處可以寫成二階泰勒形式：f（x）=f（x0）+■（■aii（xi-xi0）2+2■aij（xi-xi0）（xj-xj0））+o（ρ），其中ρ表示點到駐點的歐氏距離.考慮到混合偏導數相等，于是，關于極值的判定矩陣可表示為：Δ=（aij）（n×n），其定性可以通過特征根的計算，或者采用順序主子式的計算得以實現.同時，如果涉及多個駐點的，要分別給予判別.

結論：（1）Δ是正定（負定）的，特征根全為正（負），此時函數存在極小值點;（2）Δ是未定型的，同時存在正的和負的特征根，此時駐點不是極值點;（3）Δ是半正定（負定）的，此時，特征根為0或者是正（負）的，并且由矩陣論可知正特征根的個數為系數矩陣的秩，那么函數存在極值點，這些極值點構成超平面S，其維數滿足r（S）=n-r（A）.如此，再將二元函數的極值問題推廣為更多元函數時，其判別思路不是簡單的性質平移，而是要從矩陣的定性來進行思考.

在實際操作中，涉及極值的求解與判斷中，還可以考慮變量之間的線性不相關的性質.在一般二次型中，如果某個分量xk0在駐點x0=（x10，…，xn0）處滿足akj=0（j≠k）.稱該分量與其他分量線性不相關.故對于此項而言，其極值的問題的研究可以單獨進行考慮.同樣地，對于一般多元函數問題，如果在有分量xk0駐點滿足fkj（x0）=■|■=akj=0（j≠k），稱該分量在駐點處與其他分量線性不相關，此時，影響判定矩陣定性的，僅僅為其二階純偏導數的符號，其值表現為判定矩陣的特征根之一.

四、多元函數極值的應用

在統計學中，利用最小二乘法原理，對一元線性回歸方程中的系數進行求解，即認為最優的擬合直線應該滿足實際測量值與回歸直線相應點處的平方和（絕對偏差）最小.其數學模型表現為：min=■（yi-a（xi+b））2，其中y=ax+b為直線回歸方程，a，b為所求的系數.關于回歸系數的存在性，可以通過以下二次型理論證明.事實上，這是關于變量a，b的二次型，由最小二乘法目標函數知，該函數是正定的，因此，存在極小值點（唯一的），只要求出駐點即可.

那么，對于多元線性回歸，其中回歸方程的系數依然可采用此法，即系數滿足實際測定值與回歸方程相應點的平方和最小，此時，相應的數學模型可以描述為：min=w=■（uj-（■aixij+c））2，其中u=■aixi+c為回歸方程，a1，a2，…，ap，c為所求的系數.這是關于變量a1，a2，.…，ap，c的二次型，且是正定的，因此，存在極小值點（唯一的），只要求出駐點即可.由駐點的性質：■=0=■，于是，駐點滿足線性方程組：

■

對此，采用線性方程的克萊姆法則即可求出各參數的值.

在多元統計線性回歸操作中，在實際問題處理中，還需要對變量之間的相關程度展開研究，認為具有高相關程度的兩個變量進行合并，以減少回歸系數的運算.同時，也保證了駐點方程解的唯一性.

另外，需要說明的是，在回歸系數的求解中，以上所給出的是它的理論計算，在實際應用中，往往采用科學計算進行實現.可采用專業的數學軟件，以完成相關的計算.與此同時，在線性回歸中，還需要對回歸的優度進行檢驗，關于此，本文未給予統計理論方面的解釋.

參考文獻：

[1]趙澤福.多元函數極值的應用分析[J].長春工業大學學報，2016，37（1）：98-101.

[2]梁偉秋，尹小艷.二次型矩陣在多元可微函數極值問題的應用[J].高師理科學刊，2017（8）.

[3]曹昭.多元線性回歸系數的求解原理與矩陣初等變換的應用[J].統計與決策，2015（17）：74-76

[4]徐陽棟.二次型在多元函數極值問題上的應用[J].教育教學論壇，2015（7）.

[5]丘維聲.高等代數[M].清華大學出版社，2010.

[6]林元重.新編數學分析[M].武漢大學出版社，2015.