函數性線性回歸模型分析方法及其應用

劉 鋒，譚祥勇，何 卓

(重慶理工大學數學與統計學院，重慶 400054)

函數性線性回歸模型分析方法及其應用

劉 鋒，譚祥勇，何 卓

(重慶理工大學數學與統計學院，重慶 400054)

研究了自變量為函數性數據、響應變量為標量的函數性線性模型在Tecator Data數據集上的應用。分別利用低階基函數的線性組合、帶粗糙懲罰的高階基函數的線性組合以及函數性主成分分析法得到函數性線性模型中回歸函數的估計。結果表明:這3種方法都能較好地估計出回歸函數，而其中函數性主成分分析法表現最優(yōu)。

函數性數據分析;函數性線性模型;函數性主成分分析

在傳統的數據分析中，通常所遇到的數據要么是截面數據，要么是時間序列數據。這些數據離散且具有有限的特征，并且有諸多的不足之處。例如，縱向數據過分依賴于條件假設，并且樣本所觀測到的數據都處于同一時間點。對于那些在不同時間上所觀測的數據，傳統的方法就不能很好地進行統計推斷。隨著科學的進步，我們所收集的數據不但包括一般的離散型數據，還包括具有函數形式的過程所產生的數據，例如數據自動收集系統收集的數據等，一般稱這種數據為函數性數據。函數性數據分析(functional data analysis)的概念最早由加拿大學者 Ramsay和 Dalzell于1991年提出，并且在文獻［1］中使用函數性主成分分析和線性模型對加拿大的溫度和降雨量進行了實證分析。雖然函數性數據來源形式多樣，但其本質都是由函數構成。因此，在對函數性數據進行分析時，可將觀測到的數據看作一個整體，而不是一串數字，這是函數性數據分析與傳統的統計分析的主要區(qū)別。近年來，對函數性數據分析方法的研究己有不少的成果，比如線性回歸分析［2-5］、函數性方差分析、函數性主成分分析、函數性典型相關分析、聚類分析［6］等。另外，利用擬合的光滑函數的導數對數據分析也取得了不少成果。張瑩等［7］介紹了主微分分析方法的原理。剡亮亮［8］介紹了主微分分析方法在函數性數據中的應用。

本文運用3種不同的方法來研究自變量是函數、因變量為標量的函數性線性模型在 Tecator Data數據集上的應用，通過實證分析來展現函數性數據的一些優(yōu)勢和特征。

1 函數性線性回歸模型與估計方法

函數性線性模型可分為協變量為函數性數據、響應變量為標量，協變量為標量、響應變量為函數性數據和協變量、響應變量均為函數性數據這3種情況。對于第1種情況，其模型為

其中β(·)為未知的回歸函數。為得到其估計，設一組基函數為φk(t)，k=1，2，…，K，然后用低階的基函數的線性組合、帶粗糙懲罰的高階基函數線性組合以及函數性主成分分析法得到回歸函數的估計。本文主要利用這3種方法來進行建模。

2 建立函數性線性模型

2.1 數據來源

本文數據來源于R軟件中的fda.usc程序包中的tecator data的數據。該數據集包含了240個樣本，每個樣本由100道吸收譜以及水分、脂肪、蛋白質各占的比例所組成，其中前172個樣本為訓練集，后68為測試集。為此，本文主要研究光譜的吸收率與水分的比例關系，且只取前172個樣本。

2.2 函數性線性模型建模

本文以光譜吸收率作為自變量x，以每個樣本所含水分的比例作為響應變量Y，則所建立的函數性線性模型為(1．1)。由于得到的自變量是離散的，因此首先要將離散的數據轉化為函數形式，即利用所觀測的原始數據定義一個函數x(t)。如果獲得的離散值沒有觀測誤差，就稱這個過程為插值;如果獲得的數據含有觀測誤差，那么在將離散數據轉化為函數時，就需要對數據進行修勻。解決這個問題的方法就是先選定一組基函數，然后利用基函數的線性組合來給出x(t)的估計。一般情況下，選擇B-樣條基和傅里葉基。前者適用于非周期性函數性數據，后者適用于周期性函數性數據。本文選取B-樣條基來擬合樣本。圖1為172個樣本的修勻曲線。

圖1 172個樣本的修勻曲線

以下將分別利用本文提到的3種方法來估計回歸函數。

1)采用低階基函數的線性組合估計回歸函數，即

在此方法中，設K=21。通過R軟件的計算，得到了截距α的估計為0．007 2，回歸參數函數β(t)的擬合曲線如圖2所示，其中虛線是置信度為95%的置信區(qū)間。通過計算，可以得到R2= 0.963 2，F=177．347 7，其中:R2為判定系數，反映模型的擬合優(yōu)度;F值反映方程的顯著性。圖3顯示了真實值與預測值，其中○表示真實值，△表示預測值。從圖3可以看出:函數性線性模型具有較好的預測功能。

圖2 利用低階基函數的線性組合估計的回歸函數擬合

圖3 真實值與預測值

2)利用帶粗糙懲罰的高階基函數的線性組合來估計回歸函數。

為了得到β(t)的估計，由文獻［9］可以極小化式(2)。

從式(2)可以看出:懲罰系數λ決定著β(t)的光滑程度，為此采用交叉核實方法來選擇光滑系數。由圖4可見:建議選擇光滑系數λ=10-5。

圖4 光滑參數估計效果

在此方法中，設K=63。通過R軟件的計算，得到了截距α的估計為0．007 2，回歸參數函數β(t)的擬合曲線如圖5所示，其中虛線是置信度為95%的置信區(qū)間。通過計算，可以得到R2= 0.970 6，F=165．449 2。圖6展示了其殘差的QQ圖，說明用高階基的線性組合，并加上粗糙懲罰所估計的方程和回歸函數都是有效的。

圖5 帶粗糙懲罰的回歸參數擬合

圖6 殘差的QQ圖

3)利用函數性主成分分析方法來估計回歸函數。

在離散型數據分析中，為了處理高維數據，往往會利用主成分分析來進行降維。同樣，在函數性數據分析中，也可以利用函數性主成分分析法來提取樣本的主要成分。

為此先進行主成分分析。本文選取了前4個主成分。圖7展示了前4個主成分偏離均值的效果。

圖7 前4個主成分偏離均值的效果

通過計算，β0的估計為0．632 2。圖8給出了β(t)的估計和其估計的逐點置信區(qū)間，其中虛線是置信度為95%的置信區(qū)間。從圖8和圖9可以看出:主成分分析方法同樣有較好的效果。

圖8 利用函數性主成分分析方法所估計的回歸參數擬合

圖9 殘差的QQ圖

3 結束語

本文通過低階基函數的線性組合、帶粗糙懲罰的高階基函數線性組合和函數性主成分分析法來估計函數性線性模型的回歸函數。結果表明:這3種方法對數據都有較好的解釋能力。另外，從回歸函數的置信區(qū)間上看，利用主成分分析方法得到的估計比其他2種方法好。這與普通的線性模型所表現的結果相同。與傳統的多元數據分析相比，函數性數據分析具有較多的優(yōu)越性。比如:函數性數據分析只依賴較少的假設條件和較弱的收斂結構等;函數性線性模型可以處理高維的數據，而傳統的線性模型遇到高維的數據就顯得無能為力。

［1］Ramsay J O，Dalzell C J.Some tools for functional data analysis［J］.Journal of the Royal Statistical Society，1991，Series B:539-572.

［2］Cardot H，Ferraty F，Sarda P.Functional linear model［J］.Statistic&Probability Letters，1999，45(1):11-22.

［3］Cardot H，Ferraty F，Sarda P.Spline estimators for the functional linear model［J］.Statistica Sinica，2003，13 (3):571-592.

［4］He G，Müller H G，Wang J，et al.Function all inear regression via canonical analysis［J］.Bernoulli，2010，16 (13):705-729.

［5］Yao F，Müller H G，Wang J L.Functional linear regression analysis for longitudinal data［J］.The Annals of Statistics，2005，33(6):2873-2903.

［6］曾玉鈺，翁金鐘.函數數據聚類分析方法探析［J］.統計與信息論壇，2007，22(5):10-14.

［7］剡亮量.基于函數性視角的經濟數據分析—以主微分分析為例［J］.統計與信息論壇，2013，28(1):40-46.

［8］張瑩，葉振軍.主微分分析方法在金融工程研究中的應用［J］.統計與決策，2009(9):41-31.

［9］James O R，Hooker G，Graves S.Functional Data Analysis with R and MATLAB［M］.［S.l.］:Springer，2009.

(責任編輯劉 舸)

Methods of Functional Linear Regression Model and Its Applications

LIU Feng，TAN Xiang-yong，HE Zhuo
(College of Mathematics and Statistics，Chongqing University of Technology，Chongqing 400054，China)

We investigated the application of functional linear model in Tecator Data set with a scalar response and functional covariates.Then，we used the low-dimensional basis，combination of a highdimensional basis with a roughness penalty and low-dimensional approximation using principal component analysis method to estimate the regression function.The result show that these three methods perform can perform well in estimating regression function，especially the last method.

functional data analysis;functional linear model;functional principal analysis

O21

A

1674-8425(2015)11-0135-04

10.3969/j.issn.1674-8425(z).2015.11.023

2015-07-21

國家自然科學基金資助項目(11471060)

劉鋒(1973—)，男，湖北新化人，博士，副教授，主要從事非參數統計研究。

劉鋒，譚祥勇，何卓.函數性線性回歸模型分析方法及其應用［J］.重慶理工大學學報:自然科學版，2015 (11):135-138.

format:LIU Feng，TAN Xiang-yong，HE Zhuo.Methods of Functional Linear Regression Model and Its Applications［J］.Journal of Chongqing University of Technology:Natural Science，2015(11):135-138.