學(xué)貫中西（6）:闡述ML分類器的工作流程

高煥堂

1天字第一號(hào)MlL模型：分類器

在上一期里，曾經(jīng)在Excel 畫(huà)面的幕后，設(shè)計(jì)了一個(gè)分類器（Classifier）模型，將各<詩(shī)句>歸類到各自所屬的<作品>。此時(shí)，把一個(gè)作品名稱（如靜夜思），當(dāng)作一個(gè)類（Class ）。于是，這種ML模型，就通稱為：分類器。在ML（機(jī)器學(xué)習(xí)）領(lǐng)域中，分類器就是天字第1號(hào)模型。

在本專欄的前面幾期里，曾經(jīng)介紹過(guò)分類器的幕后實(shí)踐技術(shù)。在本期里，就來(lái)把去年介紹過(guò)的技術(shù)，與華夏的藝術(shù)、文化創(chuàng)作，連結(jié)起來(lái)，讓您能夠貫通ML的知識(shí)體系及其實(shí)現(xiàn)技術(shù)，請(qǐng)您回憶上一期的范例（見(jiàn)圖1）。

這是ML模型的基本技能，它透過(guò)機(jī)器學(xué)習(xí)而記住了<詩(shī)句>與<作品名稱>之間的關(guān)系，也就是分類關(guān)系。于是我們就可以把某個(gè)<詩(shī)句>輸入給這模型，由它來(lái)預(yù)測(cè)（推論）出其所屬的<作品名稱>（參見(jiàn)圖2）。

這是典型的ML分類器模型。我們可以建立更多這樣的模型，來(lái)表達(dá)各式各樣的事物之間的復(fù)雜關(guān)系。

分類器的學(xué)習(xí)流程

剛才已經(jīng)說(shuō)明了，分類器是一種AI模型。顧名思義，它經(jīng)過(guò)機(jī)器學(xué)習(xí)，就能在人們的指引下，認(rèn)識(shí)不同種類的圖像，或其他事物。換句話說(shuō)，它就具有分辨出不同種類事物的智慧能力。現(xiàn)在來(lái)舉例說(shuō)明其學(xué)習(xí)流程。2.1收集數(shù)據(jù)

于此，敘述分類器的工作（學(xué)習(xí)）流程。例如，它就具有分辨出八大山人與畢加索，兩種不同畫(huà)作的風(fēng)格。首先，收集兩個(gè)類的畫(huà)作圖像，如圖3。

這些圖像是用來(lái)訓(xùn)練一個(gè)分類器模型。訓(xùn)練完畢之后，它就具有分辨出八大山人與畢加索，兩種不同畫(huà)作的風(fēng)格。由于分類器是屬于監(jiān)督式學(xué)習(xí)（ Supervisedlearning ），我們先進(jìn)行分類，并且對(duì)各類來(lái)貼上標(biāo)簽（ Label）。貼上類的標(biāo)簽：[1]代表<Picasso>類，而以[0]代表<八大山人>類（見(jiàn)圖4）。

分類器是屬于監(jiān)督式學(xué)習(xí)（ Supervised learning ） ，我們先進(jìn)行分類，并且對(duì)各類來(lái)貼上標(biāo)簽（ Label ）。貼上類的標(biāo)簽：[1]代表<Picasso>類，而以[0]代表〈八大山人〉類。接下來(lái)，就來(lái)定義這個(gè)分類器的架構(gòu)，包括它的各項(xiàng)參數(shù)來(lái)配合這些畫(huà)作圖像的大小（即多少像素）。

現(xiàn)在，訓(xùn)練數(shù)據(jù)（Training data）準(zhǔn)備好了，模型也定義好了，就可以展開(kāi)〈機(jī)器學(xué)習(xí)〉了;也就是，開(kāi)始訓(xùn)練這個(gè)分類器模型。

2.2展開(kāi)機(jī)器學(xué)習(xí)

·步驟1：拿第1筆數(shù)據(jù)來(lái)訓(xùn)練

首先從Picasso類取出一筆數(shù)據(jù)（即一張畫(huà)作），以X表示之，輸入給分類器。同時(shí)，把Picasso類的標(biāo)簽，提供給分類器，做為目標(biāo)值（Target），簡(jiǎn)稱：T值（見(jiàn)圖5）。

此時(shí)，分類器模型就進(jìn)行推論（Inference ）：從X 計(jì)算出Z。并且計(jì)算出Z與T的誤差。也就是：T-Z = Error （見(jiàn)圖6）。

然后，依據(jù)這項(xiàng)誤差值（即Error）來(lái)更新這分類器的參數(shù)，如圖7所示。于是，更新了分類器的參數(shù)，讓分類器的智慧提升了。此時(shí)已經(jīng)輸入第1筆數(shù)據(jù)，并對(duì)分類器進(jìn)行1次迭代（Iteration）的訓(xùn)練了。

·步驟2：拿第2筆數(shù)據(jù)來(lái)訓(xùn)練

現(xiàn)在從八大山人類取出一筆數(shù)據(jù)（即一張畫(huà)作），以X表示之，輸入給分類器。同時(shí)，把八大山人類的標(biāo)簽， 提供給分類器，做為目標(biāo)值（T）。此時(shí)，分類器模型就進(jìn)行推論：從X計(jì)算出Z，如圖8所示。

接下來(lái)，就計(jì)算出Z與T的誤差。也就是：T-Z =Error。然后，依據(jù)這項(xiàng)誤差值（即Error ）來(lái)更新這分類器的參數(shù)（見(jiàn)圖9）。

更新了分類器的參數(shù)，讓分類器的智慧提升了。此時(shí)已經(jīng)輸入2筆數(shù)據(jù)，并對(duì)分類器進(jìn)行2次迭代的訓(xùn)練了。

·步驟3：繼續(xù)拿下一筆數(shù)據(jù)來(lái)訓(xùn)練

這是重復(fù)〈步驟1〉的學(xué)習(xí)流程，從Picasso類取出另一筆數(shù)據(jù)（即另一張畫(huà)作），以X表示之，輸入給分類器。同時(shí)，把Picasso類的標(biāo)簽，提供給分類器，做為目標(biāo)值。此時(shí)，分類器模型就進(jìn)行推論，計(jì)算出Z 和誤差值（Error）。最后，依據(jù)這項(xiàng)誤差值來(lái)更新這分類器的參數(shù)。更新了分類器的參數(shù)，讓分類器的智慧提升了。此時(shí)已經(jīng)輸入3筆數(shù)據(jù)，并對(duì)分類器進(jìn)行3次迭代的訓(xùn)練了。

·步驟4：繼續(xù)拿下一筆數(shù)據(jù)來(lái)訓(xùn)練

這是重復(fù)<步驟2>的工作流程，但是從八大山人類別取出另一筆數(shù)據(jù)（即另一張畫(huà)作），來(lái)輸入給分類器。同時(shí)，把八大山人類的標(biāo)簽，提供給分類器，做為目標(biāo)值（T）。此時(shí)，分類器模型就進(jìn)行推論，計(jì)算出Z和誤差值。最后，依據(jù)這項(xiàng)誤差值來(lái)更新這分類器的參數(shù)， 讓分類器的智慧提升了。此時(shí)已經(jīng)輸入4筆數(shù)據(jù)，并對(duì)分類器進(jìn)行4次迭代的訓(xùn)練了。

·步驟5：繼續(xù)重復(fù)循環(huán)下去

然后，重復(fù)循環(huán)下去，直到Error趨近于0為止。以上是典型的機(jī)器學(xué)習(xí)流程，其中每1次迭代都各輸入1筆數(shù)據(jù)給分類器去進(jìn)行學(xué)習(xí)（也是訓(xùn)練），也更新1次模型參數(shù)。這樣地重復(fù)循環(huán)下去，就會(huì)逐一地把各筆數(shù)據(jù)（畫(huà)作）都輸入給分類器去學(xué)習(xí)了。當(dāng)我們把全部數(shù)據(jù)都輸入給模型去學(xué)習(xí)了，就稱為：學(xué)習(xí)一回合（Epoch ）。

如果學(xué)習(xí)了一回合之后，發(fā)現(xiàn)其誤差值（Error）還蠻大的（不接近于0），表示學(xué)習(xí)得還不夠好。于是繼續(xù)重復(fù)下去，也就是進(jìn)行另一回合的學(xué)習(xí)，重復(fù)循環(huán)下去，直到Error趨近于0為止。一般而言，機(jī)器學(xué)習(xí)都需要進(jìn)行數(shù)千或數(shù)萬(wàn)，或更多回合的學(xué)習(xí)（訓(xùn)練）過(guò)程， Error才會(huì)趨近于0。

3學(xué)習(xí)的效果

于此，使用空間對(duì)應(yīng)（Space-mapping ）的觀念來(lái)解釋之。輸入空間（即X空間）包含全部數(shù)據(jù)（畫(huà)作），經(jīng)由推論（計(jì)算）之后，會(huì)對(duì)應(yīng)到輸出空間（即Z空間）。這種對(duì)應(yīng)過(guò)程，就通稱為：模型推論，如圖10所示。

經(jīng)過(guò)數(shù)百或數(shù)千，或更多回合的學(xué)習(xí)之后，這分類器就能把這些畫(huà)作，對(duì)應(yīng)（Mapping ）到它們各自所屬的類了。

一旦機(jī)器學(xué)習(xí)完成，圖11里的關(guān)系建立起來(lái)了。計(jì)算機(jī)（ML模型）就觀察畫(huà)作的風(fēng)格，而推論出該幅畫(huà)作是來(lái)自畢加索或是來(lái)自八大山人了。

4結(jié)語(yǔ)

前面提到了，分類器是ML領(lǐng)域的天字第一號(hào)模型。為什么它具有這樣重要的角色呢？請(qǐng)您仔細(xì)領(lǐng)會(huì)一下圖11里的X（空間）與Z（空間）的關(guān)系。基于這項(xiàng)關(guān)系，MIL模型就觀察畫(huà)作的風(fēng)格（結(jié)果），而推論出該幅畫(huà)作是來(lái)自畢加索（原因）或是來(lái)自八大山人了。

于是，X空間里的事物或其特征，是我們所觀察到的結(jié)<果>。而Z空間里所表達(dá)的卻是這些結(jié)果幕后隱藏的原<因>。一旦能找到眼前（現(xiàn)實(shí)）結(jié)果幕后藏的真正的因，我們就能針對(duì)此<因>而對(duì)癥下藥，就可以改變眼前的<果>了。這稱為：溯因（ Abductivereasoning）推理。君不見(jiàn)，許多人類的科學(xué)性創(chuàng)新，大多來(lái)自于這項(xiàng)溯因（又稱果因）推理能力。請(qǐng)您期待本專欄的繼續(xù)解說(shuō)ML的更多魅力。