從分而治之的并行計算到擴而治之的平行計算,智能有更多的交互、優化,面對人類發展的圍棋大勢,執棋落子,破局在即。
——中國科學院自動化研究所復雜系統管理與控制國家重點實驗室主任,國防科技大學軍事計算實驗與平行系統技術研究中心主任王飛躍
為什么計算機技術發展到了今天的盛況?人工智能的演變經歷了小數據、大數據、小智能、深度智能等幾個階段。
我們從物理世界搜集而來的數據,不管有多少,永遠都是小數據。什么叫大數據?大數據是物理世界每時每刻所產生的無限量數據,這些數據被我們分析、計算、實驗,應用于各種各樣的案例中。
我們要從并行走到平行。并行是什么?數據的并行,就是多樣的數據分門別類并行地用于多個領域。任務的并行指數據并行地用于不同的任務,另外還有混合并行、數據并行和任務并行同時存在。并行是把大問題劃成很多小問題,這叫分而治之。而平行是擴而治之,一個實際問題可以衍生出很多虛擬問題,依靠這些問題之間的交互,我們可以進行計算實驗,也可以進行學習優化,從而讓最優的智能浮現出來。
平行最基本的框架概括地說就是一實一虛—真實的數據和虛擬的數據。它有三種最主要的工作方式:學習與訓練、感知與理解、實驗與評估。
我們用計算實驗把小數據“炒“成大數據,又把大數據”煉“成小智能,最后到深度智能的混合平行,所以并行與平行有天然聯系。……