基于LSTM 神經網絡的創新創業發展預測與區域發展比較
——以陜西與四川為對象

查 博

（西安財經大學商學院，陜西西安 710100）

創新是社會發展進步的靈魂，創業是促進經濟與社會實現快速發展、改善民生水平的重要途徑，創新和創業其實是連為一體、共生共存的關系。2018 年印發的《國務院關于推動創新創業高質量發展打造“雙創”升級版的意見》（國發［2018］32 號），明確指出切實促進大眾創業、萬眾創新的目標發展，是我國創新驅動發展戰略得以實施的重要支持，是深入推進供給側結構性改革的重要路徑。打造“雙創”的升級版，推進創新創業實現高質量快速度的發展，有利于促進并增強以創業帶動就業的能力，有利于提升科技的創新水平和產業的發展活力，有利于創造并提供優質資源供給和擴大有效的市場需求，對我國經濟實現快速良性的發展，具有重要的內生動力意義。

在國家和政府對創新創業事業的大力扶持下，我國創新創業的發展水平不斷的提升，這關系到國家創新創業總體方針與相應政策能否得到落實并是否獲得成功的重要反應和持續性結果。而創新創業未來的發展特點及趨勢如何，直接影響著我國創新型國家建設以及以創業推動就業水平提升的目標與號召。因此有必要對創新創業的發展水平及其趨勢進行科學的預測，并以預測結果與展現出的發展特點為基準來制定未來創新創業的發展目標和保障政策。

國內學者在相關研究領域有著一些研究成果。宋傅天［1］認為在實踐中，大學生雙創規模發展潛力巨大、創業成功率不斷提高、區域分布逐漸優化，但存在技術創新能力不足、商業模式尚不完善、融資方案的設計經驗不足等顯著問題。針對這些問題及其各自的成因，政府、學校與學生等實施主體應該盡職盡責，激勵相融，大力營造良好的政策環境、加強“雙創”教育、提高自身能力，努力推進大學投身于創新創業事業中來。韓立［2］認為我國高校創新創業教育發展中還面臨一些問題和不足，采取切實有效的相關措施，不斷改進與完善大學生創新創業課程體系，明確創新創業人才培養目標，對改善高校創新創業教育現狀、提高人才培養質量具有重要的意義。張秀峰等［3］通過對北京市31 所高校大學生創新創業教育相關課程、課外實踐活動現狀進行實證調查后發現：大學生創新創業教育存在創業教育課程未能很好地融入教學體系、創新創業實踐教學環節同質化嚴重、創業環境不夠完善、創新創業的興趣還需進一步激發等問題。雷朝滋［4］認為做好創新創業工作是落實國家戰略的重要舉措。大力推進創新創業工作是我國高等教育自身改革發展的根本需要。加強創新創業教育是減輕高等學校畢業生就業壓力問題的一劑良方。王偉忠［5］構建了大學生創業指導服務“三維聯動”的工作機制和“要素協同”的運行模式，切實發揮政府、高校、市場（社會）等主體和多要素在大學生創業指導服務中的引導、培育和支持功能，有利于推動和提升大學生創業指導服務的能力建設，促進大學生創新創業進程實現可持續發展，提高大學生創新創業的成功率和發展質量。趙軍等［6］在對“互聯網+”與創新創業國家戰略的實施背景進行研究的基礎上，闡述了“互聯網+”的含義和本質，分析了“互聯網+”環境下大學生創新創業信息平臺構建的必要性，運用專家訪談和問卷調查的方法，分析了“互聯網+”環境下大學生創新創業的需求和平臺的設計功能，最后提出了基于“云平臺”的三層架構。查博等［7］從創業投資角度探討了分階段投資中創業企業面對不完全資本市場和創投公司面對道德風險及不確定性時的模型，分析了分階段投資在模型中作用。在對比初期一次性投資和分階段投資后，結合再談判行為的特性，發現了一些有意義的結論。

外文文獻在相關研究領域有著一些研究成果。Satish Nambisan 等［8］認為強大的數字技術、數字平臺和數字基礎設施的出現，在很大程度上改變了創新和創業。數字技術不僅為創新者和企業家提供了新的機遇，還對價值創造和價值獲取具有更廣泛的影響。Lei Cheng 等［9］試圖調和政治關系對企業創新的混合效應。利用中國雇主—雇員調查（CEES），發現政治聯系有助于那些有創新企業家的企業開展創新活動，但阻礙了那些沒有創新企業家的企業開展創新活動。Erasmia Leonidou 等［10］認為利益相關者參與創新管理和后續創業發展的先行作用是相互關聯的。通過系統的方法回顧和框架開發，可以更全面、更深入地了解企業家與各利益相關者之間的互動關系，從而促進創新管理和創業發展。Chirantan Chatterjee 等［11］認為盡管印度的創新、創業和科技活動越來越多地由女性主導，但在實現男女平等之前，仍然存在著巨大的差距。Giuseppe 等［12］以文化創新理論為基礎，以一家新近成立的消費者創業企業為例，分析了該企業在本土競爭中所追求的文化定位。歷時兩年的縱向案例研究將縱向案例分析與積極的研究結合起來，得出了一些發現，這些發現揭示了消費者如何認識到文化機會的存在，如何制定文化戰略，以及如何構建一家公司來從商業上利用這一機會。AdrianTantau 等［13］旨在評估通過投資可再生能源而擴大活動領域的公司的創新特征，并確定哪些組織支持因素對這些特征的影響最大。該分析基于對30 家遵循企業創業戰略投資于可再生能源的公司的研究。結果表明，管理層對企業創業和工作自主性的支持是支持這些多元化企業創新的組織因素。Chih-WenWu 等［14］以獨到的視角和先進的知識探討全球創業創新。企業家精神在創造價值、創造財富和就業方面發揮著關鍵作用。企業創業是一個日益增長的研究領域，在過去的幾十年中受到越來越多的關注。在全球經濟尋求保持和提高競爭優勢的過程中，創新非常重要。企業家和創新者都將新發明引入生產活動中。Mónica Edwards 等［15］提出了社會認知理論和社會建構主義的充分性論點來解釋創造力、創新和創業（CIE）作為一種元能力的發展。實證結果表明，大多數學生認為自己是有創造力的人，并認為創造力與創新和創業精神密切相關，在企業家能力中創造力的相關性方面，美國學生比西班牙學生更相信這一點。Domingo 等［16］認為創新被認為是創業的一種具體手段。創業是創新發展到一定程度必然出現的結果，兩者是不可分離的。Mihai Talmaciu［17］探討促進一種發展模式的可能性，這種模式能夠利用羅馬尼亞各區域，特別是東北區域的能力作為推動因素，通過創新、發展領先技術和刺激企業家精神來獲得競爭優勢和可持續發展。

過去的研究，基本上是從創新創業教育、創新創業影響作用、創新創業與企業家精神和如何促進其發展的角度來進行研究與分析的，而對于創新創業發展水平及趨勢的預測與分析，目前少有學者進行研究。對創新創業發展水平的合理預測，才能為其日后的發展提供具有前瞻性及合理性的決策，并為創新創業未來的發展打下良好的定量研究基礎。因此本文提出建立基于LSTM 神經網絡的創新創業發展預測模型，在對比傳統回歸預測模型和傳統神經網絡預測模型的基礎上，探究LSTM 模型在反應創新創業發展水平指標預測研究中的先進性和前瞻性。這有助于反應創新創業在其發展中體現的特點，進而有助于國家相關部門制定更加科學合理的決策。通過對比同處中國西部的兩個重要省份（陜西省和四川省）的創新創業發展情況，能夠得出其各自發展過程中表現的特點如何，進而對其發展原因有所探究。通過分析發展原因，給出相應的政策建議，為促進區域創新創業的發展打下良好的研究基礎。

1 創新創業發展影響因素和指標選取

1.1 創新創業發展影響因素及數據

創新創業的發展過程，受很多因素的影響，本文通過分析創新創業的基本流程，來確定影響區域創新創業發展水平的諸多因素，具體如下圖1 所示。創新創業需要相當大的投資作為支撐動力，雙創人員在得到了投資后，會做出研發的行為，通過研發行為，進而實現相應科學技術上的提升，而這些新的創新型科學技術，最終都會導致區域社會生產力的增長，比如人的購買力、人均生產水平和就業率等。而生產力的增長，反過來又會促進從投資到研發，從研發進而產生科學技術飛躍的整個過程。

圖1 創新創業發展流程

因此創新創業的發展，其實就是一個較為典型的閉環式投入產出系統，在流程上應該包含4 個階段，即：投資——研發——提升科學技術——轉化生產力。

在能夠收集到數據的前提下，盡可能多地考慮影響創新創業發展的相關數據。本文使用的數據指標包括：用R&D 經費內部支出、R&D 人員、R&D項目數、科技研發機構數、專業技術人才來衡量研發水平；用專利項目授權量、全省地方登記的科技成果、各類技術合同數、各類技術合同成交額來衡量科學技術水平；用全社會固定資產投資來衡量投資水平；用就業率、國內生產總值、人均國內生產總值、人均可支配收入來衡量生產力水平。所使用數據來自于陜西省統計局及四川省統計局1999—2019 年的數據。創新創業發展指數是通過邀請20 位創新創業研究領域的專家打分得來。

1.2 創新創業預測指標

創新創業發展水平的衡量指標，一般包括投資、研發、科學技術和生產力轉化四項。出于數據的準確度考慮，創新創業發展指數由行業專家打分來決定，具體評分等級如表1 所示，通過專家打分并加權得出的創新創業發展指數，通過歸一化處理后，其可靠性較高，具有良好的適應性。所以本文僅使用創新創業發展指數作為創新創業發展水平的評估和預測指標。創新創業發展指數的評價等級如下表1 所示。

表1 創新創業發展指數的評價等級

1.3 性能評價指標

為了反映模型預測的偏離水平，使用誤差率與均方根誤差來表示。為了說明模型擬合水平，選用均方根對數誤差與決定系數來表示。

誤差率E 和均方根誤差RMSE 的運算為：

1.4 變量關聯分析

如果數據中相關信息有噪聲或不相關，則預測所得數據可能會受到某種程度的影響。比較每一組變量的卡方值和相關系數，可以用來優化和篩選變量。這樣可以達到優化預測結果的目標。卡方值的計算公式如下：

卡方檢驗能計算并表示樣本之間的偏離程度，卡方檢驗的值越大，表示存在的關聯就越明顯。皮爾森相關系數能夠粗略地表達變量之間的關聯程度如何。卡方值與相關系數越大，說明相關性越高。

根據下表2，本文最終使用14 個相關的自變量和區域創新創業發展指數作為輸入變量，共15 個變量。

表2 卡方值和皮爾森系數值

表2（續）

2 創新創業發展預測的LSTM 模型——基于陜西數據

LSTM 模型是遞歸神經網絡的一個變型［18-19］。它搭建了特殊的記憶存儲型單元，通過時間逆向傳播算法對已知數據進行反復的訓練［20］，這可以解決遞歸神經網絡所產生并存在的梯度消失及無長期依賴的問題。

2.1 歸一化處理

本文用以下方法對原始數據做歸一化處理，通過線性轉化可以使得結果能夠落到［0,1］區間，轉換公式如下：

上式（7）中，min 與max 分別為樣本數據特征值的最小值與最大值。x與X分別為原始數據及歸一化后的數據。

2.2 隱藏層節點個數

隱藏層中的節點個數，學術界到目前為止并沒有明確的理論來進行規定。通常情況下使用下列公式來確定節點個數：

上式中，N是隱藏節點數，n是輸入節點數，m是輸出節點數，a為1～10 之間的常數。

根據本文所選變量的個數，可以知道輸入節點為15，輸出節點為1，由上式（8）可知隱藏節點為5 至14。運用1 層LSTM 模型，試驗并確定從5 至14 個節點所對應的誤差率及誤差平方和，并以此來判斷模型的偏離程度。進而選取合適的隱藏層節點個數。

實驗結果可以得出使用11 個隱藏節點的LSTM模型，其對應的RMSE 值最小，因此這樣的預測效果最好。測試集的誤差率與均方根誤差結果如下表3 所示。

表3 不同隱藏節點的創新創業發展預測

表3（續）

2.3 模型深度

本文所選的年份僅有21 條數據記錄，用1 至5層的模型，每層仍包括11 個隱藏單元，以此來做一對比。通過實驗計算出的RMSLE 與R2來判斷哪一層模型的擬合能力最佳。RMSLE 值越小，R2值越接近1，說明模型的擬合能力越強。

具體擬合效果如下表4 所示。根據下表4 中的結果可知，2 層LSTM 模型的數據擬合能力為最佳。

表4 不同層數模型均方根對數誤差和決定系數

2.4 網絡結構

通過以上的實驗分析，可以知道擁有2 個隱藏層并且每個隱藏層中擁有11 個隱藏節點的LSTM 模型，是本文要選取的最優LSTM 模型。數據集包含14 個輸入型變量和1 個輸出型變量。學習率設置成0.02，權重W*、U*與偏移向量b*，以上參數全部實現初始化隨機應用。為了更新權重與偏差度，需要不斷的訓練序列來實現。選用平均絕對誤差（mae）來表示所用LSTM 模型中損失函數的修正誤差，并使用Adam優化器，促使網絡實現最優化學習。

3 實驗對比分析——基于陜西數據

3.1 實驗環境

本例實驗環境為LENOVO 臺式機，CPU：AMD 3600@3.60GHz，內存為16GB，操作系統為Windows10 企業版，開發環境為使用python3.5 語言的PyCharm 集成開發工具，使用LSTM 等神經網絡模型。

3.2 實驗設計及結果分析

本文設計包括傳統的回歸模型與神經網絡模型的三組實驗，實驗項分別為多元非線性回歸（MUL）、BP 神經網絡模型以及長短期記憶神經網絡模型（LSTM）。分別將1999—2015 年的17 條數據以及2016—2019 年的4 條數據作為訓練集和測試集。用前一年的數據做輸入樣本，預測未來一年的創新創業發展指數。圖2 為1999—2019 年實際創新創業發展指數的趨勢圖。

圖2 1999—2019 年陜西創新創業發展指數

經過實驗訓練，LSTM 模型、MUL 模型以及BP模型在測試集中的預測結果如表5 所示。

表5 測試集預測結果

測試集中的預測結果顯示，BP 神經網絡和MUL回歸模型無明顯的規律，預測精度也不高。而LSTM在2016、2017、2018 年和2019 年的準確率較高。分析圖3 中的創新創業發展指數的趨勢可得到，LSTM 對趨勢的預測效果較佳。同時也證明出LSTM模型確實學習到了數據中的時間依賴信息。

圖3 1999—2019 年陜西創新創業發展指數和各模型的擬合效果

根據1.3 節所提到的性能評價指標，對各模型擬合所有數據的效果進行測評，在此基礎上加入模型的訓練耗時指標進行對比，各模型的性能指標如表6 所示。

表6 各模型的性能指標

表6 中不同模型的性能指標顯示，LSTM 模型的RMSLE 值最小，R-square 值最接近1，模型擬合效果最好。在訓練時間方面，LSTM 的訓練時間最慢，但其與BP 訓練時間的差距要遠小于BP 與MUL 之間訓練時間的差距。所以綜合看來LSTM 模型的性能最好。

運用LSTM 神經網絡預測2020—2024 年的陜西創新創業發展指數，并將其輸入創新創業發展模型，得出2020—2024 年陜西創新創業發展指數，結果見表7。

表7 陜西創新創業發展影響因素及創新創業發展指數的預測

根據預測結果，將2020—2024 年的陜西創新創業發展指數及各分指標與往年情況對比可知：R&D人員數、R&D 項目數及專利項目授權量沒有了之前年份呈現出的較大波動性，轉為平穩的增漲態勢；全省各類技術合同數沒有了之前跨越式的增漲方式，呈現出平穩提升的發展狀態；就業率與全省地方登記的科技成果數從原來持續低迷的發展態勢中恢復過來，轉變為緩慢上升的發展趨勢；專業技術人才數量呈現出平穩上升的發展態勢；R&D 經費內部支出、科技研發機構數、各類技術合同成交額、全社會固定資產投資、國內生產總值、人均國內生產總值和人均可支配收入穩步提高。從2020 年到2024 年，陜西創新創業發展指數預測值逐步提升，達到了良好的評價等級（等級劃分標準參看表1），朝著優秀的標準逐步邁進。這一對比結果說明了我國大眾創業萬眾創新的目標和措施初見成效。預計經過“第十四個五年規劃”，陜西創新創業水平會實現平穩且良好的上升態勢。

3.3 魯棒性分析

創新創業的發展，所受到的影響因素眾多，各種條件狀態的表現十分復雜。預測模型如果能夠較為穩定精確地對復雜多變的狀況進行合理的預測，就能說明模型具備良好的魯棒性。分析本實驗中模型的魯棒性時，應著重考慮兩個方面的情況：第一，內部影響因素，模型訓練所用的數據是否存在異常性波動。第二，外部影響因素，社會層面上出現的政策調控，會對預測數據產生促進或抑制的影響作用。無論內部影響因素還是外部影響因素，重點都在數據上。針對模型訓練數據來講，最難以控制的就是外部影響因素。外部影響因素的作用仍然是間接影響訓練所需數據的主要因素，在預測效果上就可以得到體現。

本文采用以下方法來進行魯棒性分析。第一，對異常數據應當進行可視化研究，觀測每一個變量的均勻程度，并對顯示不均勻的數據進行相應處理，例如：使用lg 對數函數進行相應的處理。第二，對存在異常波動的變量采取分類處理的策略，待完成相關性分析后，分別建立若干個相應模型來訓練預測。最后將對應若干個模型的預測結果進行疊加。模型針對特定數據的分類訓練，也能夠提高預測的精準度，從而提高該預測模型的魯棒性。

4 區域創新創業發展的比較分析——基于陜西與四川的數據

4.1 陜西與四川創新創業發展各指標的數據比較

陜西與四川創新創業發展各指標的數據對比如下圖4 所示。

圖4 1999-2019 年陜西與四川創新創業發展各指標的數據比較

4.2 比較結果與原因分析

如上圖4 所示，對比陜西與四川創新創業發展的14 項分指標后發現，四川省近些年在影響創新創業發展的指標（R&D 經費內部支出、R&D 人員、科技研發機構數、專業技術人才、全社會固定資產投資、國內生產總值、人均可支配收入）的數值上，要比陜西省創新創業發展指標對應的數據要高。陜西省近些年在創新創業發展的影響指標（R&D 研發項目數、專利項目授權量、全省地方登記的科技成果、各類技術合同數、各類技術合同成交額、人均國內生產總值）對應的數據上，要比四川省創新創業發展指標高。初始年份時各指標的相差并不大，最近幾年兩個省份在創新創業方面的投入和產出分別領先對方（如表8 所示），這樣的差距似乎有不斷加大的趨勢。在就業率指標上，兩者的差距并不明顯。總體上來講四川與陜西各有其發展的優勢。在創新創業的發展指數反映上，四川省的創新創業發展指數略高于陜西省，可這種差距并不明顯，說明在目前中國“大眾創業萬眾創新”的大環境下，陜西省與四川省各個評價指標在數量大小上互有勝負，但同處于中國西部的兩個大省卻有著較為相近的創新創業總體發展水平。

表8 陜西省與四川省綜合近五年創新創業發展領先指標

從具體衡量指標上來看，陜西省和四川省各自創新創業發展的側重點是不同的。四川省擁有著豐厚的技術人才與研發人員，科研機構也比較多，截止2019 年7 月，世界500 強中有超過一半的企業集團入駐了四川省［21］，其高科技的研發支出與固定資產投資也相對較多，這能為創新創業的發展奠定良好的人力物力基礎。陜西省在以上幾個方面不如四川省，但其在創新技術的成果數量和成交額上卻獲得領先。陜西省在國內生產總值方面不如四川省，人均生產總值卻更多，這能為陜西創新創業的發展提供更大的推動力，說明陜西創新創業發展的效率要比四川強大，較高的效率彌補了人力物力在投入數量上的不足。

近些年來，四川憑借著西部振興計劃的深入實施、國家對社會發展的大力投入和自身堅持不懈的努力，成功帶動了更多的人進行創新創業，國內生產總值的基數與增速不斷加大，只是由于其人口基數更大，因此人均生產總值不如陜西省。在2015 年國家提出大力發展雙創經濟的大背景下，四川省就業率在目前中國經濟正在實現逐步轉型的時期，仍出現上升的勢頭。陜西省作為西北五省發展的龍頭省份，憑借著其悠久璀璨的歷史文化優勢，加上深厚的軍事工業科技基礎與強大的高校科研能力，為陜西創新創業的發展提供了源源不斷的推動力。

因此可以看出，四川在創新創業的發展中擁有著更好的基礎性投入，陜西在創新創業的發展中擁有著更強的技術產出，綜合來講兩者有著相近的創新創業總體發展水平，但具體發展細節與側重點則各有不同。

5 結論與建議

本文建立了基于LSTM 神經網絡的創新創業發展預測模型，通過與傳統的回歸模型與BP 神經網絡模型對比后，認為LSTM 神經網絡模型對創新創業發展水平的趨勢具有更好的預測能力，能為政府部門提供更為準確的預測指標數值，從而使有關部門能制定更加科學準確的促進方案，對我國創新創業的發展評價亦有一定的指導意義。

在比較1999 至2019 年陜西省和四川省創新創業發展影響指標的數值后發現，雖然兩個省份有著相近的創新創業總體發展水平，但具體發展細節與側重點則各有不同。四川在創新創業的發展中擁有著更好更大的基礎性投入，而陜西在創新創業的發展中擁有著更高更強的技術產出水平，可以看出陜西創新創業發展的效率要比四川強大，較高的效率彌補了人力物力在投入數量上的不足。

結合以上對陜西省與四川省創新創業發展的比較分析，本文對創新創業發展的建議如下：

（1）認清自身創新創業的發展現狀和特點，突出其發展優勢。應該準確把握其經濟發展的優勢環節，重點關注其在軍事工業，農商領域，科技與民生產業，教育事業以及服務型行業等領域創新創業的發展水平，將自身發展優勢充分得到利用，以各自的產業優勢帶動創新創業的發展，發揮產業優勢的指向性作用，為創新創業的發展提供強有力的基礎性支撐。

（2）彌補自身創新創業發展中的不足，實現其均衡穩定發展。在實現優勢產業帶動創新創業的同時，也要關注并不斷解決自身在創新創業發展中的不足之處，通過與自身對比，與產業發展互補型兄弟省市的對比，汲取其他省市在創新創業發展中所遇到的問題、獲得的寶貴經驗以及成長的性質特點等經驗，認識和改善自身在創新創業發展中的不足，實現創新創業的穩定均衡發展。

（3）深入貫徹國家雙創精神，提升國家創新創業政策的落實水平。充分抓住國家對創新創業的政策扶持機會，在貫徹國家雙創相關精神思想的同時，享用國家對創新創業培育與支持所帶來的紅利，并且制定符合各省實際情況的創新創業政策，將落實國家及各省創新創業政策的任務放在發展創新創業的首要位置，以政策驅動、實際發展和總結經驗為階段來促進創新創業事業實現快速良好的發展。