人工智能與信息安全

馮志新

廣西通信規劃設計咨詢有限公司 廣西 南寧 530004

1 人工智能安全問題的重要意義

從人工智能的出現到現在，存在著許多問題，其中人工智能的安全性是最重要的問題之一。首先，人工智能是否一直被人類使用，也就是人們經常擔心的人工智能是否會超越人類在這個社會中的主導地位。人工智能應用的出發點是要被人類應用。使用人工智能的過程必須由人類來控制，它自身的野蠻發展必須被阻止，更不用說被別有用心的人利用。這是確保人工智能安全的一個重要方面。其次，如果人工智能的安全問題處理不當，人工智能可能會對人類或領域造成危害，影響人類及相關領域的發展。最后，人工智能的安全問題也影響著人工智能本身的發展[1]。

2 人工智能時代影響計算機網絡信息安全的因素

當今的網絡正處在一個信息爆炸的時代，數據服務作為主導業務類型，要求并推動著網絡安全結構的根本變革。對網絡本身的威脅包括對網絡設備和網絡軟件系統平臺的威脅。除了對網絡中信息的威脅外，計算機網絡也包括對處理這些數據系統的應用軟件的威脅。影響計算機網絡安全的因素有很多，對網絡安全的威脅主要來自三個方面：即人為的無意失誤、黑客的惡意攻擊、網絡軟件系統的漏洞和后門。

2.1 人類的無意失誤

在計算機的網絡信息中，如果人類無意中在輸入的數據中出現了不符合語義的數據，或者犯了技術錯誤，這將會影響數據庫的完整性，嚴重的甚至會造成軟件系統的癱瘓。這種數據的脆弱性還表現在數據在傳輸過程中很容易被破解或竊取，也會導致數據泄露和丟失。同時，由于自然環境造成的一些硬件設施容易被損壞，一些數據會被破壞或丟失。

2.2 黑客的惡意攻擊及網絡病毒

在GeekPwn2017國際安全極客大賽上，白帽黑客與現代技術的對抗達到了頂峰，攻擊目標包括最熱門的人臉識別、聲紋識別、銀行卡在智能POS機消費等場景。令人驚嘆的項目破解秀揭示了網絡空間的安全問題。隨著信息網絡的廣泛應用，計算機用戶經常受到黑客的攻擊，有些人利用惡意軟件入侵設備，有些人利用用戶貪便宜的心理向用戶發布含有虛假網站鏈接的誘惑性短信。一旦有用戶上當受騙點擊了鏈接，在網站上留下個人信息就會導致信息泄露。

2.3 計算機本身存在的漏洞

簡單地說，計算機漏洞是設備硬件或軟件上的設計缺陷，這也為黑客提供了入侵的機會。此外，這些漏洞很常見，用戶很難防范。有些漏洞是隱藏的，如果不及時發現就會產生嚴重的安全后果[2]。

3 解決人工智能安全問題的措施

人工智能還處于快速發展時期，各方面還沒有完全成熟。人工智能的安全性已成為發展道路上的絆腳石。解決人工智能的安全問題對人工智能的發展起著重要的作用，我們可以采取一定的措施來防止人工智能安全問題的發生。解決好人工智能安全問題不僅可以消除人工智能應用面臨的安全隱患，而且可以對人工智能的運行進行管理和有效監控。

3.1 解決好網絡安全的問題

為了解決網絡安全問題，人工智能的研發工作和實驗工作可以在安全穩定的網絡環境中進行。網絡安全防護強調人、物、策略三位一體。不僅要保護物理網絡的安全，而且要加強對網絡管理和維護人員的管理，持續優化網絡管理策略。定期調查網絡安全隱患，修補網絡安全漏洞，加強網絡安全日常管理，完善網絡安全體系和人工智能網絡安全體系。善于使用各種技術手段加強網絡安全，對硬件防火墻、IPS、 IDS等網絡安全設備加強系統補丁和漏洞管理，通過各種網絡管理和功能軟件，定期對端口策略、底層防御策略進行調整，并不斷優化網絡安全閉環管理的方式。

3.2 加強人工智能應用領域監管

人工智能的應用和發展必須遵循社會發展規律，以維護社會公共安全穩定為前提，避免產生不良影響。每個專業領域都有權利去研究和應用人工智能技術，但是，當相關領域人員想要研究并應用人工智能時，必須向政府相關監管部門報備和定期報告，取得必要的授權和許可，以確保人工智能技術的應用不會對社會甚至人類產生致命威脅，然后才能進行相應的研究和應用工作。由于人工智能在計算速度、計算能力和標準化方面優于人類，因此，在體育競賽領域，它可以實現超越人類的思考能力，例如下棋等。人工智能技術還可以幫助提升人類的運動潛能，但與此同時，在競技體育過程中應避免過度被使用，因為，這阻礙了游戲的公平性和正義性。

3.3 加強人工智能安全評估與管理

近年來，人工智能的發展突飛猛進，加強人工智能的安全性評估也是對未來可能產生的危害以及危害程度的一種必要工作。相關研究和監管機構應不斷加強評價技術手段，嚴格完成評價工作。特別是要加強對人工智能算法和程序的測試，確保它們在應用過程中不會影響人類自身安全。根據安全試驗數據，構建人工智能產品的評價模型和仿真機制，通過概率統計預測可能發生的危險行為，并在相關危險發生時制定應急預案。同時，應加快人工智能培訓師和維護人員隊伍建設，從源頭和使用過程對人工智能安全進行管理和監督，最大限度地減少危險事故的發生。對于人工智能公共安全領域的事故，要做到零容忍，對信息處理和智能應用的全過程進行有效監督。人工智能行業協會應發揮積極作用，需要建立政府和企業之間的溝通機制，制定統一的人工智能安全行業標準，讓全行業有標準規劃可遵循并按照標準規劃開展工作[3]。

4 結束語

近年來，人工智能技術有了質的飛躍，取得了突破性進展。當前，人工智能技術仍將不斷發展，隨著人工智能的出現和發展，應用人工智能的行業也越來越多，如軍工、服務業、驅動產業等。隨著人工智能在這些行業的應用，各種安全問題不斷出現和增加。同樣，隨著人工智能算法和應用場景的不斷改進，人工智能訓練水平的提高，讓人們享受到了帶來的各種便利，減少了重復性工作。