我要看看，誰敢把“鳥”寫成“烏”！

李新玲

最近，一款神奇的作業燈登場了。

它有兩個攝像頭，一個緊盯著孩子的作業本，另一個可以盯著孩子的面部表情。這樣在做作業的時候，如果孩子敢把“鳥”寫成“烏”，家長哪怕在千里之外，仍能大喝一聲。孩子若想愣神兒，沒門兒;想揉揉眼睛玩玩筆，一句“集中注意力”保準會扔過來。

可以理解，這款產品能給一些因為工作和生活遠離孩子的家長提供慧眼，實現遠程陪伴。不過，它也給那些“直升機”家長增添了利器，不僅盯著人，也能盯著所有的小動作，包括指尖、眼神。

憑我們的才智，這樣的產品肯定會被超越：可以再加一個攝像頭盯著孩子的腿腳，寫作業時雙腳必須并齊放在地面上，不許蹺二郎腿;頭上可以懸個錘子，發現走神，錘子立馬落下來。

人工智能應用越來越多，在信息安全的前提下，交通導航、醫學診斷、移動支付、藥物篩選等等，給我們帶來了太多福祉。疫情防控，人工智能也功不可沒。

從一個攝像頭變成兩個攝像頭，是不是創新暫且不論，關鍵是與人工智能嫁接，號稱人工智能助力教育的新產品，這就值得討論一下了，人工智能到底該如何助力教育？

浙江某地一所小學的學生，去年被戴上了腦機接口環。這個腦箍可以檢測腦電波，評判學生上課、寫作業時是否集中注意力，系統可以給注意力打分，分數能實時傳輸到老師的電腦里，據說也會像考試成績排名一樣被發到家長群里。

還有一款可以對學生課堂聽講情況全程監控的產品，舉手3次、低頭8次、打瞌睡1次、趴桌子1次……一舉一動、面部表情都能被記錄在案。

好在經媒體報道后，浙江當地教育部門禁用了上述頭箍;上述第二個產品的開發公司也隨后發聲明說只是技術場景概念演示，否認應用。真要謝謝他們，不然，孩子上學戴上頭箍，放學回家用上作業燈，全天候、無死角，盡在大人掌握和干預之中。這不就是電影《楚門的世界》中，活生生的現實“小楚門”嗎，24小時都被監控、直播。

如何培養出更多有創造力、想象力、敢于突破的杰出人才一直是我們的追問，也是目標。一個人的成長需要適度的空間，心理的成熟、心靈的豐富，都需要自我不斷探索嘗試。很多從試錯、反思中得到的經驗更可貴。一直被作業、分數捆綁，沒有一絲一毫的空間，也許會有一個好看的分數，但難說會有陽光的心態。

有人生動比喻，一匹從小只會拉磨的小馬，永遠不會成為駿馬。

前兩年人臉識別技術剛剛開始應用的時候，就有公園里的廁所安裝人臉識別設備，一刷臉給你一截手紙，你要想再多要一截，對不起，面子只能刷一次。若有特別需求，還真得找別人“借臉用一下”。人臉識別應用場景很多，在新冠肺炎疫情期間，即使戴著口罩，有些攝像頭也能識別。

現在廁所廁紙也升級了，有的把二維碼印在地上，掃碼關注公號才能滑出一截手紙。這種推廣和營銷，用在廁所里總是讓人覺得違和。

奇葩年年有，人工智能來了就特別多。

一些批量生產“優雅罵人”語句的軟件橫空出世。這類軟件可以從文學名著中快速檢索、生成特定的罵人句子，語句雖不帶臟字卻惡意滿滿。這些軟件為網絡“噴子”提供了“裝滿大糞的炸彈”，中傷他人，污染網絡環境。

不斷迭代的科技，雙刃劍從來都是鋒利無比。有學者在科技與倫理的論述中，這樣形容“科學技術像一匹不斷飛馳的駿馬，那么倫理就像制約駿馬的韁繩。如果沒有倫理的規范、約束和引導，科技一味瘋狂發展很可能會把人類帶上不歸路。”

賀建奎對基因編輯技術濫用，被追究刑事責任，這就是韁繩起了作用。前些年瘦肉精、三聚氰胺、蘇丹紅同樣如此。

倫理具有一定的穩定性，面向不確定性增多的未來，科技要給人類提供什么幫助？科技的限度和禁區在哪里？從以往來看，如果預先設置一些高于現行要求的倫理規范，有機會消除一些技術帶來的不確定性危害。

去年，幾家研究機構共同推出了《人工智能北京共識》，提出人工智能的研發、使用、治理，應該遵循有益于人類命運共同體構建和社會發展的15條原則。例如“善用與慎用原則”，要對人工智能應用可能帶來的潛在影響具備充分認識，避免誤用、濫用，以最大化人工智能帶來的益處、最小化其風險。

之后科技部也對外公布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、敏捷治理等八項原則。

幾乎在同時間，歐盟委員會也發布了人工智能倫理準則，并宣布同時啟動該準則的試行階段。據統計，目前各國政府、各類組織、研究機構和產業界頒布的有關人工智能倫理準則提案已經有幾十份。

不過，也可以看出，這些準則大多只是原則性、倡議性的，缺乏可操作性，也缺乏法律上的約束性。

因此，如何善用人工智能，還是要靠科研人員的自我約束。作業神燈的發明者，想想自己小時候，是不是愿意被家長、老師無時無刻盯著就行了。

當然，無論是阿拉丁神燈還是寶蓮燈，無論是金箍還是銀箍，產品經理肯定是考察了市場，看到了需求，推廣團隊也會培育市場以獲得收益。但是這種收益的埋單者是誰，只是家長花錢嗎？非也，損失的有可能是一群人的未來。

被算法24小時罩起來的孩子，可能會非常聽話，寫作業時遇到難題也不會齜牙咧嘴。如果都這樣，倒像一批批小機器人，那么未來這個世界到底是誰的世界呢？

電影《星球大戰》里，那顆被稱為“終極武器”的死星，代表了技術雙面中的“惡”，這個有兩個重力場的巨大怪物，會讓克隆人慢慢減少人性，讓所有東西都在機器控制之下。

不說那么遠的科幻世界，近幾年，商業公司最感興趣的信息，已經從個人的生日、電話、住址變成了指紋、人臉特征、虹膜等。南京一家售樓處采集看房者人臉信息，有自我保護意識的買房人戴著鋼盔看房。家長放心把自家孩子的臉通過神燈交給一家公司？

近幾年熱熱鬧鬧的人工智能，已經有60多年歷史。現在公認的說法是1956年達特茅斯學院夏季研討會（人工智能的起源事件）的召集者麥卡錫（JohnMcCarthy）想出來的。有人考證，說這是誤讀，因為麥卡錫晚年承認這個詞最早是從別人那里聽來的，但記不清是誰了。如今當事人大都已仙逝，誰發明了這個詞恐成世紀懸案。不過，人工智能花里胡哨的應用，還能遠程管中國小孩寫字多一筆少一筆，應該是這些先賢們沒有想到的。