顧玉蓉


摘要:近年來,預訓練模型在深度學習算法中的應用越發廣泛,其具體功能愈加完善。文章首先闡述了深度學習的研究進展及其存在的問題,其次由深度學習的應用引入預訓練模型的概念、應用方式及其在深度學習算法優化中的作用,最后總結了預訓練模型存在的不足及發展前景。隨著自然語言處理技術的進一步發展,基于預訓練模型的深度學習算法的弊端得到部分消除,未來發展前景值得期待。
關鍵詞:預訓練模型;深度學習;計算機;信息時代
中圖分類號:TP39? 文獻標志碼:A
0 引言
信息時代的深度發展,促使計算機應用在各行各業深入滲透,由此形成了諸多廣泛而豐富的功能需求。在這種背景下,基于人工神經網絡的深度學習(Deep Learning,DL)算法應運而生。同時,隨著信息技術的全面發展,深度學習算法在許多新興技術中扮演著重要的角色,例如無人駕駛汽車、人臉識別、圖片識別及分類、機器翻譯、目標識別、情感識別和藝術創作等。
1 深度學習算法發展現狀
任何事物的發展都具有兩面性,深度學習算法也不例外。深度學習算法區別于傳統的機器學習,網絡層級更為復雜,需要更多的訓練樣本。盡管深度學習算法應用廣泛,功能強大,但隨著應用需求的多樣性拓展和對海量訓練樣本的操作需求,其缺陷也逐漸浮現。
1.1 只能根據既有的樣本數據學習,無法判斷數據是否正確
深度學習模仿樣本數據中的內容,對于數據正確與否無法判斷。……