淺析人工智能安全問題及其解決進路的探究

張程奕

摘 要： 適應陌生的環境總是喜歡以記錄的方式，雖然已經忘記大學開學時是如何適應交大環境的，但這種記錄行為總是被鐫刻在腦海中…或許這是某些人群應對新環境所表現出來的獨特適應表現吧，或者叫適應性行為。今天一天的工作是以早起開始的，還是不太習慣早起的生活，早上總讓人感到有些困倦和不自在…想必是交大大四的生活帶給自己的被動性吧…倘若自己的心中懷揣著夢想，自己一定是很早很早到企業去完成自己任務的。查理就是那樣的人吧，總歸還是要一直不斷地努力下去的，不努力的話，會被市場中均值回歸的規律回歸到基本狀態的。

【中圖分類號】 TP18 【文獻標識碼】 A 【文章編號】 2236-1879（2018）11-0152-01

引言：

人工智能的問題開始逐漸地引發了自己產生了一些對薪酬的理解有了一些稍微獨特的認識，薪酬的規則設定仿佛也被規律化了，用規律來精準地調控個人的薪水。也開始對真實的工作有個更加深入的認識，但這種認識是之前從未有過的，一種仿佛置身事外以旁觀者視角觀察整個體系的運轉，能非常直觀地看到一些問題，隱約地感覺閉環和一些工作流程的欠缺，但尚未想到較好的解決方案，或許時間能讓自己逐漸升級成“發現問題”到“解決問題”——很多東西真的是沒發展到特定階段，能看出很多端倪，比如教育的問題，但總是覺得徹底改革教育的勢頭還未到來，往往最表象的道理，最貼近簡單生活實際的調整越需要更深層次的邏輯，必須要對復雜系統有更加深入的了解才有可能深入認識。

一.人工智能安全問題簡述

人工智能給我提了一個全局性的方案，是以注塑工藝為核心，原材料，模具，干燥機/控溫機/機械手/注塑機的工藝的匯總才能更好地產出汽車/醫療/CE等產品。工業互聯網的發展情況，在目前看來，這些都需要進一步的深入學習吧。第一天攝入的信息量還是蠻大的，當然也不指望自己能夠迅速通盤地接受這一切，還是需要深入慢慢地理解這一切的緣由。

校園生活的邏輯和職場生活的邏輯是完全不同的了，研究生和博士生已經工作很大程度上是個非常相似的事情，都是為了自己的一個預期或者夢想，不斷實現自己的夢想吧。和我同窗的伙伴——查理，工作了三年逐漸明白了這些事情的道理，開始心有夢想地不斷努力著，朝著夢想奮斗著…大家都是創一代，在城市化之前，自己的父母沒有把握住浪潮，而城市化之后，之前追求KPI的游戲規則也以發生了改變變成了市場規律這個更加強大的武器…我們必須適應這個過程。感覺自己仿佛是突然才明白這個道理的，亦或者是看了《一人之下》后才逐漸才家庭教育和童年教育中對城市化的無感，從小沒有生活在大城市怕是限制了自己的想象力和可能性。

二.人工智能安全問題的發展

人工智能的制備方法繁雜，有些方法可以得到高質量的人工智能，但卻非常不適合大規模化生產。而且得到的人工智能中會存在各種各樣的缺陷，這種缺陷是由制備方法導致的，是不可避免的。缺陷的存在會很大程度上影響產品的化學性質、物理性質。而人工智能中最主要的缺陷包括空位缺陷、表面吸附雜質原子及拓撲缺陷等。人工智能的改良及其改進方向

為了改善人工智能在未來的電子、光子和存儲應用中的性能，他們探索出了新方法，并將研究成果發表在最近一期的《科學報告》雜志上。此外，賓夕法尼亞州立大學研究人員帶領的研究小組還進行了另外一項相關研究，他們使用摻雜工藝，將外來的原子摻雜到薄膜的晶格中，從而改變或者提升材料的特性。他們將這項研究成果發表在這周的《高級功能材料》雜志上。不僅如此，賓夕法尼亞州立大學研究人員還大大改善了人工智能的摻雜濃度，摻雜解決了兩個問題：對于晶體管和傳感器等應用來說，它使得材料更加導電；同時，它通過改善所謂的“硫空位”缺陷，提高了材料的質量。團隊預測，更高的錸摻雜將完全消除“硫空位”帶來的影響。

三.人工智能安全問題的解決方式

（1）安全性和魯棒性；

安全性和魯棒性 （security and robustness）：在不同環境下可靠的性能，目前的模型既不安全也不魯棒的一個有趣的原因是它們對「對抗樣本」的敏感性。最常見的對抗樣本類型是圖像像素無法檢測到的擾動導致模型進行錯誤的判斷。即使對熊貓形象的微小改變也能欺騙學習模型，讓模型認為有 99.3% 的可能是長臂猿。但對抗樣本不限于這種圖像處理詭計。一些研究人員提出了更廣泛的定義：「對抗樣本是攻擊者故意引入機器學習模型，旨在導致模型出錯。」按照這個定義，對抗樣本不僅可以用來攻擊視覺系統，而且可以用來攻擊任何類型的模型。

（2）可理解性和可解釋性：

這篇論文來自于 NIPS 2017 大會上由 Google Brain 團隊舉辦的 NIPS 2017 對抗攻擊防御比賽。比賽包括非目標攻擊 （non-targeted attack）、有針對性的攻擊 （targeted attack） 和防御 （defense）。每個類別都使用黑盒圖像分類器和類似 ImageNet 的圖像數據集作為基礎，這里的「黑盒」表示攻擊者無法知道目標模型的權重。「非目標攻擊」的方法需要對給定的圖片進行處理，使得某個機器學習分類器識別其為任意類別，而「有針對性的攻擊」的方法需要讓某個機器學習分類器能成功將圖像識別為屬于特定的錯誤類別。

（3）獎勵學習：

對于非目標 （non-targeted） 和有針對性 （targeted） 的攻擊類型，清華團隊采用已經建立的基于迭代的技術來生成對抗性攻擊（「iterative fast gradient sign method」，I-FGSM）并增加了動量項，從而減少這種算法經常遇到的過擬合問題。為了增加這些對抗性攻擊在不同模型之間可以遷移的程度，他們針對使用分類器的集成來實現他們的方法。為了防御，清華團隊提出了「高階表征引導去噪器」（HGD）方法。為了消除對抗擾動，該方法改進了現有的與去噪有關的防御機制。HGD 基于這樣的見解：在防御對抗樣本的過程中，專注于像素級的準確性實際上可能增加而不是減少失真。HGD 使用高級特征指導去噪器防御對抗性攻擊。

結語：

在近代一直到現代的人工智能工程的研究和探索，無論是人工智能還是新型合金都具有重大突破，由此可見新材料于我們的日常生活息息相關，與我們的科技發展緊密相連，對未來的電池行業發展、半導體技術革新帶來深遠影響。但是新材料仍然具有很大的探索價值，對于每位科學家來說都有很長的路去探索。

參考文獻

[1] 杜嚴勇.人工智能安全問題及其解決進路[J].哲學動態，2016（09）：99-104.

[2] 石霖，曹峰.人工智能發展帶來的安全問題與策略研究[J].電信網技術，2018（04）：15-17.