AI已控制猴腦，控制人腦首先得過倫理這關

張田勘

作文君：近年來，AI的發展可謂勢不可當！這不，2019年5月2日，美國麻省理工學院的三位科學家在《科學》發表文章稱，他們首次用AI軟件大腦視覺神經網絡模型，實現了控制猴子大腦的神經元活動。雖然這是使用人工神經網絡來理解真實神經網絡的一大突破，但網友們紛紛對此表示：“太可怕了！離控制人腦不遠了吧？！”到底這一突破的意義何在？我們又該如何去認識這件事情呢？一起來看吧！

對人腦進行控制，較早的研究是腦機接口，而現在，新的控制大腦的方式出爐了，是用深度學習的方式讓AI模擬人工神經網絡（ANN）掌握對圖像的識別，然后通過操控人工神經網絡，達到對大腦的控制。

具體而言，即研究人員建立一個基于人工神經網絡的視覺系統模型，每個網絡都以一個由模型神經元或節點（類似于真實神經系統中的突觸）組成的任意架構開始，這些神經元或節點可以以不同的強度（權重）相互連接。然后，用一個包含超過100萬張圖像的圖庫來訓練這些模型。當研究人員向模型展示每張圖像，以及圖像中最突出的物體（比如飛機或椅子）的標簽時，模型通過改變連接的強度來學習識別物體。

隨后把這些圖像呈現給猴子來測試AI模型控制猴子神經元的情況，結果表明，AI模型可以強烈激活所選定的大腦神經元，甚至可以精確控制單個神經元和位于網絡中間的神經元群。因此，未來可能只要能操控視覺神經網絡模型AI，就可以控制大腦。由于人和非人靈長類動物的解剖和生理都相似，這一研究結果似乎也可以推論到人，也就是說未來如果采用某種AI模型，就可以控制人的大腦。

但這種控制顯然是初步的和局部的。實際上，準確地說，這種情況并非控制大腦，而是吸引猴子或人的大腦更多關注某一物體和事物。

現在已知人腦中大約有1000億個神經元（神經細胞），每個神經元又通過突觸（神經元與神經元之間的接頭）與多個神經元聯系，是通過神經元上的稱為軸突和樹突的分支來建立聯系的。但是，這些聯系是如何形成并且有多少種聯系方式，迄今人們知道的并不多。但即便解決了所有的問題，也明確了用圖像控制大腦不同部位的神經元（激活并傳導到特定的神經網絡），未必就能真的實現控制大腦，因為這涉及太多的倫理問題。

在治療疾病上，此舉倫理上的爭議或許相對較小——畢竟只是為了治療疾病，而且保證不會對病人造成傷害，也不會在治愈后還持續不斷地控制病人的大腦，大概是可以通過倫理委員會的批準。但對于正常人而言，通過這樣的AI軟件來控制大腦就有比較大的倫理問題。即便是應用于提高記憶力和增強學習能力，都有可能造成不對等競爭的后果，也會產生不公正。更重要的是，如果這類AI軟件進一步發展到可以隨時控制正常人的大腦，就違背和超越了人工智能的一個極大的倫理原則，即AI不應用來收集或使用信息，以監視人和控制人。

因此，AI大腦視覺神經網絡模型最大的用處，應當是用來診治疾病及研究生命現象和機理，當然這應是在技術成熟并有了規范而具體的倫理原則之后。

（摘自《新京報》2019年5月10日）