人工智能面臨的問題、挑戰與倫理

李彥宏

我覺得AI應該做的是讓它去幫助人和服務人，不應該做的是讓它去傷害人和控制人。如果AI在某些方面，對人的正常活動產生了負面的影響，那我們也要去規范它。

作為新一輪科技革命和產業變革的重要驅動力，人工智能已上升為國家戰略。當前，人工智能還處在發展初期，但在某些領域已經接近甚至超過了人的能力，展現出巨大的變革力量。

所以我覺得我們需要從社會、政府和公眾的角度來考慮在人工智能這個技術的發展道路上什么是應該做的，什么是不應該做的，什么是好的，什么是壞的，我們及早地把它做一些規范，做一些預判，盡量避免人工智能向不好的方向發展。

比如怎么能夠避免大量的失業，怎么能夠保證數據的安全，怎么能夠不被黑客所攻擊等等，這些問題我覺得需要及早地從一個全局的范圍來進行考慮。

談人工智能行業中存在的問題和挑戰

人工智能這個領域肯定是有泡沫的，而且泡沫還不小，但是我覺得這個也正常。因為任何一個新的趨勢到來的時候大家都會感興趣，一擁而上。無論是投資也好，創業也好，或者是大的公司研發方向的調整，都會向著這個新的趨勢去走，所以一定會產生一些泡沫，包括一些創業公司估值非常高，融資額度很大。這種大的公司，不管適不適合去做人工智能，也都在講人工智能，也把很多研發資源都投入到人工智能上。

為什么我認為這是一個自然的過程？只有這樣大家都一起上的時候，才能夠推動這個產業迅速地走向成熟。而這個走向成熟，或者是走向理性的過程，也是一個優勝劣汰的過程，那些不適應市場需求，跟不上時代步伐的公司會逐步地被淘汰掉，剩下的一定是一些少數的公司。不管是創業型的公司也好，大型的公司也好。比如一千個公司，最后剩下20個、30個，這些剩下的公司就會發展得很好，越變越大，它們的技術，它們的產品就會被市場所接受，我覺得這是一個很自然的過程，而且應該說也是一個健康的過程。因為你不把公眾的興趣調動起來，沒有那么多資金投進來，很多技術不可能那么快被開發出來。今天大家講的十個技術里面，可能有九個將來會證明其實沒什么價值，但是有一個技術最后慢慢被打磨成了一個非常有價值的技術，這個我覺得是一個自然的規律。我覺得大家也需要有這種心理準備，今天很熱的一些公司，可能十個里面有九個在五年以后就不存在了。

我覺得大家對人工智能還是有很多誤解，兩方面的誤解都存在。有一些對技術發展速度比較樂觀的人他們開始擔心，人工智能一旦有了意志的話，會不會對人產生控制的能力，很多擔心的都是說人工智能會超越人、控制人，在這方面有一些擔心。我覺得這個擔心其實是沒必要的，人工智能離這一步其實還非常非常遠，我的判斷是永遠達不到，非常遠的意思就是我們不需要擔心。另外一個極端就是覺得，人工智能其實現在能做的有意義的事情還不夠多，這個市場還處在早期的階段，所以對它不夠重視，這個也挺危險的。因為我們看到人工智能對于人類社會的這種推動作用是方方面面的，不僅僅是對消費者在各個層面的推動作用，比如說信息自動個性化的推薦，視頻的理解。更多的是在生產端，比如我們的生產制造，生產出來的鋼板有沒有瑕疵，組裝iPhone的時候，每一個零件是不是合格等等，其實確實在這一方面是可以大規模的提升生產效率的。如果一些企業不能夠及早地意識到人工智能在這一方面能夠起到的作用，是有可能被淘汰的。所以兩個方面的誤解我覺得都有，既不能極其悲觀，認為人工智能技術還在早期的階段，不需要現在去做很多準備。但是也沒有必要把它夸大成有一天人類就面臨滅亡的危險了，我覺得現在離那一步還非常非常遙遠。

談AI倫理、人工智能對現有法律體系產生的挑戰及相關建議

我覺得AI的相關立法本身不應該太超前，很多時候確實是新事物剛剛出現，讓它稍微跑一段然后再總結經驗，找到規律再來立法，這是第一。第二的話，就是在不同的領域，它可能涉及的立法都是不一樣的，比如說像無人駕駛，那么在過去就沒有相關的法律，我們往五環上一跑，大家就說違法了。但是這個事情一出來之后，其實北京市很重視，馬上市長就召集交委開會，說我們得解決這個問題，到今天百度已經拿到了50張左右的自動駕駛測試車證，所以很快有相應的法律來保障你的這種創新能夠有序。

剛才我們講到醫療方面，我也很希望做相關的立法，統一電子病歷的格式，必須要有什么樣的字段，要有什么樣的內容，必須不同的醫院、不同的機構之間進行交換，那么必須要保護患者的隱私，你不能把什么樣的信息透露給什么人等等，這些我覺得都應該通過立法的方式來解決。其實我只是舉了交通和醫療這兩個領域，比如說在環保領域、金融領域，各個領域它可能都會遇到一些新的問題，我覺得應該去分析這些問題，找到規律，然后做出相應的立法。

我覺得AI應該做的是讓它去幫助人和服務人，不應該做的是讓它去傷害人和控制人。當然我剛才講的，我認為AI發展出來一個超能力、真正控制人類這個是不大現實的。但是跟所有其他技術一樣，如果我們不注意去控制它的話，就會出問題的，就好像碰到高壓線會被電死，并不是說電比人更聰明，而是這個技術在發展的過程當中，它是有可能出事故的。在這一方面，我們要做相應的預案，要去做防備的措施，不要讓它跑偏了。什么叫跑偏了？如果AI的能力出現了會傷害人的地方，那我們要趕緊往回拉一拉，要對它進行控制。如果AI在某些方面，對人的這種正常的活動產生了負面的影響，那我們也要去規范它。國際上其實有一些這種組織已經在講我們不要去開發AI的武器，不要搞這種殺傷性的武器，這個我覺得就是一個很好的方向，我們不希望它用到不該用的地方去。該用的地方就是要去服務人，幫助人們做一些人們想做的事情。

我再舉一個醫療的例子，其實很多住院的病人出問題是什么？就是他在病房里面摔倒沒有被人發現，沒有被及時的發現，這個時候有出問題了。我們不可能放一個人24小時在任何一個病房里面看著這些病人。但是你可以放一些攝像頭，用AI的能力。我就干這一件事，我就監控這個病人有沒有摔倒，這個是完全可以做的。類似于這樣的應用場景，我們去多挖掘，讓它去服務人，去幫助人。所以未來的AI主要的目的不是去替代人，而是幫助人，把人想做的工作做得更好，做得更高效。我覺得這是從AI倫理的角度，是這么一個思考。

談百度在人工智能行業的發展成果和優勢釋放

2016年在烏鎮互聯網大會的時候，我說過百度希望做人工智能這艘巨輪上的甲板，帶著大家往前走。我覺得目前百度實現了一小部分，因為我們從那個時候起，就一直在盡力地去建相應的平臺，包括自動駕駛的阿波羅平臺。阿波羅平臺今天大概有130多個合作伙伴，所有的合作伙伴他們大多數都是希望利用阿波羅平臺這種開源開放的能力，減少他們在自動駕駛方面的投入。世界著名的這些大的車廠、一級供應商、一些自動駕駛的芯片廠商都在這里面。還有深度學習的框架，我們叫PaddlePaddle，這個也是中國目前唯一一個有一定影響力的深度學習框架，這方面的開發者現在也非常多。而且我們不斷地在靠降低門檻，讓大家去更好地使用，我們在上面再編一些好的工具。

現在就是說，學術界用這種深度學習框架用得比較多，在工業界、商界用得還不夠多。之所以用得不夠多，還是因為它門檻比較高，需要花很多時間去學習。那我們自己最近還搞了黃浦學院，教這些企業里面從事深度學習工作的技術人員，教他們怎么更好的上手去運用深度學習的能力，為他們的企業去創造價值。所以，百度這種平臺的能力，現在使用的人越來越多了，包括我們的度秘，我剛才講的小度在家，小度音箱這是我們第一方的硬件，端到端都是百度控制的。其實還有很多第三方，他們在使用百度的人工智能對話的能力，很多的手機，包括華為手機什么的，它的語音助手背后都是百度在提供的，每天也有很多人都在通過各種各樣不同的硬件形式來使用這種人工智能的能力。

為什么我說只是實現了一小部分？因為還是不夠普及，還是使用的規模還不夠大，我覺得就是現狀這種規模再乘以十倍，才能夠讓大家有更明顯的感知。這其實不能說是對百度員工提的KPI，更多的是一種價值觀，我們每一條產品線，不光是百度整個公司我們自己有這種使命、愿景、價值觀、戰略。