必須形成對人工智能的駕馭閉環

沈陽

移動互聯時代，人在使用手機時的任何操作，都會被各類APP所記錄，產生大量的人機交互數據。這些數據經過清洗和標注，使用各種方法分析后，將能夠洞察人的情感、利益和社會交往奧秘。人事實上成了各類互聯網應用的“奴隸”，在消費互聯網的同時，也在被各類APP消費，拼命為互聯網應用生產數據。我們產生的數據包含搜索數據、瀏覽數據、社交數據和電商數據等等。互聯網采集越多的數據，就越能夠了解“數據奴隸”的行為習慣和嗜好需求，從而不斷調整內容策略、交互策略和激勵策略，最終獲取更多的數據和注意力，產生經濟價值。

不管互聯網的外在表現形式如何，其內在本質都是數據連接。數據連接一旦建立，必將不斷細化和深入，平臺的洞察能力隨著數據標簽的增加以及數據分析模型的增強而逐步提升。互聯網平臺的云端記憶能力和跨平臺分析能力遠超過人的記憶力，可謂一日觸網，終身記憶。人的洞察能力提升速度遠遠不及平臺洞察能力提升速度。從更長期看，個人在洞察能力進化速度的弱勢必然使人面對互聯網大企業或平臺人工智能時處于弱勢地位。

隨著人臉識別技術和基因分析技術的發展，人的數據正在由人機交互數據擴展為生物外部特征數據和生物內部特征數據，使我們處于一種前所未有的過度曝光狀態。人臉識別使得平臺能夠直接識別到本人，而不是原先通過人機交互數據映射到個體，如果你的手機給別人用，機器有時候還是不容易察覺已經換人了。但人臉識別直接到人，可謂無可抵賴。

這些網絡數據不可避免地輸入人工智能系統。人工智能利用算力對數據進行計算，不斷推演最終獲取識別能力。人工智能沒有數據，顯然如無米之炊、無源之水，只有在數據的滋養下，人工智能才能不斷迭代升級和進化。

由此我們看出來存在一條控制鏈，人的互動行為給大數據提供養分，大數據給人工智能提供肥料。如果不能形成控制閉環，顯然人工智能將越來越強大，終有超越人類的一天。

從個人層面看，大數據殺熟已經比較普遍，且個人處于低感知狀態。要增強個人的數據權利救濟，就必須要增強個人對于自身數據的超級掌控權，這需要立法解決。從政府和機構層面看，就要嚴肅對待人工智能和大數據的超級國家能力，必須嚴格審核互聯網的數據侵權情況，必須對機構內部使用數據進行審計。

要形成對人工智能和大數據的控制，防止技術對人的異化以及對社會的不良沖擊。人無遠慮，必有近憂。需要從兩個角度入手，近憂是規制好掌控人工智能和大數據的人。人一旦擁有了超級人工智能和數據能力，就擁有了極強的社會洞察、社會觸達動力，這時候就需要有很好的制衡機制，特別是要發揮媒體監督、公眾監督、管理部門督查、協會自律等多方面的監管。二是要規制好人工智能的超級平臺本身，防止人工智能脫離人的掌控，產生對人懷有敵意的自我意識。如果把人工智能看成一個新的物種，我們也要確保這個物種的大部分個體對待人類的友好性，友好性必須成為人工智能的基本性格，這方面的技術和倫理探討還很不夠。當然這是遠慮。

人工智能和大數據在社會中的強勢地位正在逐步顯現，對我們而言，需要做到三個必須：對于中國在國際博弈中人工智能和大數據的領先地位必須去爭取；對于國家可控和企業主導的人工智能和大數據的發展機制必須去構建；對于個人自主和法律援助的人工智能和大數據權利必須去確保。

人工智能和大數據對于傳統社會的沖擊遠未到來，如權利侵犯、就業替代、情感滿足、暴力工具對待諸多方面。我們這一代人必然會看見技術的加速發展，我們要做的就是未雨綢繆，在理論和實踐中將不確定的危險性降到最低。▲

（作者是清華大學新聞學院教授、博導）