學(xué)貫中西(4)：AI的時(shí)序性推論技能

高煥堂

1 復(fù)習(xí)：ML的智慧表達(dá)形式

上一期說(shuō)明了人工智能（AI）（ML，機(jī)器學(xué)習(xí)）的推論技能，和其基于事物或現(xiàn)象之間的關(guān)聯(lián)性（或稱(chēng)相關(guān)性）。例如，大家都熟悉氣候的運(yùn)行規(guī)律：春暖 → 夏暑 → 秋涼 → 冬寒 → 春暖 → …。四季更替、周而復(fù)始，如圖1所示。這項(xiàng)人類(lèi)已知的智慧（即關(guān)聯(lián)性），就可以讓機(jī)器（計(jì)算機(jī)）來(lái)學(xué)習(xí)、記憶它，然后依據(jù)它進(jìn)行推論或預(yù)測(cè)。

于是，我們把這項(xiàng)關(guān)聯(lián)性（知識(shí)）排列在Excel畫(huà)面上，從X對(duì)應(yīng)到Y(jié)（參見(jiàn)圖2）。在上一期里已經(jīng)介紹過(guò)獨(dú)熱編碼（OHE，One-Hot Encoding），這樣就可以讓機(jī)器來(lái)學(xué)習(xí)人類(lèi)已知的智慧了。

此時(shí)，機(jī)器會(huì)建立兩組神經(jīng)元之間的連結(jié)（Connection），并且賦予一個(gè)權(quán)重（Weight）值來(lái)表示它所學(xué)習(xí)到的關(guān)聯(lián)性，參見(jiàn)圖3。接下來(lái)，按下“學(xué)習(xí)”按鈕，就展開(kāi)機(jī)器學(xué)習(xí)，來(lái)記春暖（[1000]）與夏暑（[0100]）之間的相生關(guān)系。于是權(quán)重（值）就會(huì)發(fā)生變化，如圖4所示。

圖4里的線條寬度表示權(quán)重（值）的大小。這樣就記住了春暖與夏暑之間的關(guān)聯(lián)性了。那么，ML就藉此神經(jīng)網(wǎng)絡(luò)就繼續(xù)學(xué)習(xí)更多關(guān)聯(lián)性，例如學(xué)習(xí)并記住了上述的所有關(guān)聯(lián)性了，如圖5所示。并且輸出于Excel畫(huà)面上，如圖6所示。

以上幫您復(fù)習(xí)了，如何展開(kāi)機(jī)器學(xué)習(xí)，來(lái)記住事物之間的關(guān)聯(lián)性。

2 擴(kuò)大：欣賞ML的時(shí)序性推論技能

在本節(jié)里，來(lái)舉大家也熟悉的唐詩(shī)韻律，說(shuō)明其時(shí)序性的關(guān)聯(lián)性。例如，最典型的五言詩(shī)韻律：“仄仄平平仄， 平平仄仄平”。其中具有時(shí)間順序性的關(guān)聯(lián)性，所以稱(chēng)之為韻律。此韻律里包含兩項(xiàng)名目：“平”和“仄”。于是就采取OHE編碼：以 [10]代表“平”；并以[01]代表“仄”。接下來(lái)，我們可以觀察到其中的各種時(shí)間順序性的關(guān)聯(lián)性。例如，從連續(xù)兩個(gè)字的韻律，就能推論出第3個(gè)字的韻律（平或仄）。例如，連續(xù)兩字的韻律是“仄仄”，其后續(xù)字的韻律是“平”。再如，連續(xù)兩字的韻律是“平仄”，其后續(xù)字的韻律是“仄”，如圖7所示。

于是，我們把上述的關(guān)聯(lián)性排列在Excel畫(huà)面上，從X[]對(duì)應(yīng)到Y(jié)[]。并且按下“學(xué)習(xí)”按鈕，機(jī)器就迅速學(xué)習(xí)，以權(quán)重值來(lái)表示其關(guān)聯(lián)性，如圖8所示。

這些權(quán)重代表這些相關(guān)事物的連結(jié)，如圖9所示。 ML利用這個(gè)神經(jīng)網(wǎng)絡(luò)（NN）模型，來(lái)記住其關(guān)聯(lián)性。基于這個(gè)模型里的權(quán)重，就能進(jìn)行推論。例如，您問(wèn)它：連續(xù)兩字的韻律是“平仄”的話(huà)，其后續(xù)字的韻律是什么呢？此時(shí)，ML立即取出記憶中的權(quán)重來(lái)計(jì)算，其計(jì)算公式是：X[] * W[] = Y[]。就計(jì)算出Y[] 值是：[0.5， 1.5]，最接近于[0， 1]，意味了是韻律“仄”，如圖10所示。

由于“平仄仄”是有時(shí)序性的關(guān)聯(lián)，我們就稱(chēng)之為時(shí)序性的推論。同樣地，一個(gè)句子“寒江雪”三個(gè)字之間也有時(shí)序性關(guān)聯(lián)。ML也能利用神經(jīng)網(wǎng)絡(luò)（NN）模型，來(lái)記住其關(guān)聯(lián)性。這句子里包含三項(xiàng)名目：“寒”、“江”和“雪”。于是就采取OHE編碼：以 [100]代表“寒”；以[010]代表“江”；以[001]代表“雪”。其中最基本的時(shí)序性關(guān)聯(lián)是：

● 第1個(gè)字是“寒” → 后續(xù)的字是“江”；

● 第1個(gè)字是“寒”，且第2個(gè)字是“江” → 后續(xù)的字是“雪”。

于是，我們把上述的關(guān)聯(lián)性排列在Excel畫(huà)面上，從X[]對(duì)應(yīng)到Y(jié)[]。并且按下“學(xué)習(xí)”按鈕，機(jī)器就迅速學(xué)習(xí)，以權(quán)重值來(lái)表示其關(guān)聯(lián)性，如圖11所示。

ML學(xué)習(xí)完成了，就記住其關(guān)聯(lián)性，并能進(jìn)行推論。例如，按下“推論”按鈕，就出現(xiàn)“江”（圖12）。再按下“推論”按鈕，就出現(xiàn)“雪”（圖13）。

這展現(xiàn)了ML進(jìn)行時(shí)序性推論的技能。

3 一次學(xué)習(xí)多個(gè)語(yǔ)句

剛才學(xué)習(xí)了一個(gè)句子“寒江雪”。現(xiàn)在，可增添更多的語(yǔ)句，讓機(jī)器學(xué)習(xí)更多。例如，一次學(xué)習(xí)兩句子“寒江雪”和“江南曲”。ML也能利用神經(jīng)網(wǎng)絡(luò)（NN）模型，來(lái)記住其關(guān)聯(lián)性。這兩個(gè)句子里包含5項(xiàng)名目“寒”、“江”、“雪”、“南”和“曲”。分別給予一個(gè)OHE編碼。其中最基本的時(shí)序性關(guān)聯(lián)是：

● 第1個(gè)字是“寒” → 后續(xù)的字是“江”；

● 第1個(gè)字是“寒”，且第2個(gè)字是“江” → 后續(xù)的字是“雪”；

● 第1個(gè)字是“江” → 后續(xù)的字是“南”；

● 第1個(gè)字是“江”，且第2個(gè)字是“南” → 后續(xù)的字是“曲”。

于是，我們把上述的關(guān)聯(lián)性排列在Excel畫(huà)面上，從X[]對(duì)應(yīng)到Y(jié)[]。并且按下“學(xué)習(xí)”按鈕，機(jī)器就迅速學(xué)習(xí)，以權(quán)重值來(lái)表示其關(guān)聯(lián)性，如圖14所示。

ML學(xué)習(xí)完成了，就記住其關(guān)聯(lián)性，并能進(jìn)行推論。例如，按下“推論”按鈕，就出現(xiàn)“南”。再按下“推論”按鈕，就出現(xiàn)“曲”，如圖15所示。

這展現(xiàn)了ML可以同時(shí)學(xué)習(xí)更多語(yǔ)句，并進(jìn)行時(shí)序性推論。

4 結(jié)語(yǔ)

從大數(shù)據(jù)中探索潛藏的關(guān)聯(lián)性，是ML的亮麗技能。在本節(jié)里，展現(xiàn)了ML在時(shí)序性規(guī)律的學(xué)習(xí)、表達(dá)和推論。基于這項(xiàng)技能，還有更多有趣的應(yīng)用，期待您繼續(xù)來(lái)欣賞。

3851500589286