當AI遇到大數據

郭洪平

網約車與出租車哪個更便宜？蘋果手機與非蘋果手機，誰打車更貴？新客戶打車便宜還是老客戶打車便宜？

帶著這樣的疑問，復旦大學教授孫金云帶領他的學生，一個月時間內在北京、上海等5個城市打車800余次，花費5萬多元，以不同的手機、不同的距離、不同的時間段進行打車對比后，寫出3萬多字的《打車軟件出行現狀調研報告》。

孫金云就是要搞清，網約車是否存在“大數據殺熟”的情況：與非蘋果手機用戶相比，蘋果手機更容易叫到舒適型的車輛，但優惠更少、折扣更低，他們稱之為“蘋果稅”，且老客戶比新客戶打車更貴。調研說明一個問題，平臺的算法確實有問題。

孫金云感嘆，大數據、人工智能算法的不斷精進，使得網約車平臺可以憑借大量的客戶數據預測、引導、操縱客戶的行為。在極端情況下，平臺甚至還會使用一定的“技術手段”讓用戶產生錯覺，進而對其產品產生巨大依賴。

2020年下半年，上海市消費者協會曾做過一個試驗：他們使用多個手機終端，模擬不同收入群體消費者使用相同的App，并進行一段時間的虛擬人設操作。經過測試，他們發現不同手機接收到的廣告有很大差異。其中，模擬較低收入群體的手機，收到的差不多全是低價劣質商品和網貸廣告。

業內專業人士表示，隨著科技的發展，大數據、人工智能的發展和關聯愈加緊密，已深刻影響著社會生活。大數據技術依靠不斷采集、沉淀、分類等手段積累海量數據;人工智能則依靠大數據的支持和采集，運用人工設定的特定性能和運算方式，實現人的某種意圖。

大數據技術把海量數據的集合起來，人工智能則是對這些海量數據的智能化處理和應用。從根本上說，人工智能離不開大數據，它依賴大數據平臺和技術，幫助自已完成深度學習進化。如果把人工智能看成一個嗷嗷待哺擁有無限潛力的嬰兒，而某一領域專業的、海量的、深度的數據就是喂養這個天才嬰兒的奶粉。奶粉的數量決定了天才嬰兒是否能長大，而奶粉的質量則決定了天才嬰兒后續的智力發育水平。

作為新一輪科技革命和產業變革的重要驅動力量，大數據、人工智能可以說是一把“雙刃劍”，用好了，它們是推動社會進步和產業發展的重要力量;用不好，它們也可能帶來隱私泄露等各種倫理風險。如何在大數據、人工智能應用中兼顧隱私保護，確保安全、可靠、可控，是一項亟須關注的課題。

數據產權，我的信息被打包出售了

網約車存在的“大數據殺熟”只是一個側面。幾乎每個人都經歷過這樣的情景：剛剛在購物網站上搜索了一下某件商品，網站首頁、微信朋友圈就會滿屏都是與此有關的廣告;出門旅游，剛進高速收費站，“歡迎你到××地”的短信，就叮一聲發送過來;你剛想給孩子報個英語口語班，搜素了一下相關信息，推銷電話分分鐘把你的手機打到爆……

還有，短視頻軟件上抖音上推送的都是你愛看的;購物網站頁面出現的都是你買得起的;送餐軟件上展示的是你最愛吃的。難怪有人說，現如今，最了解你的人不是你的父母和親人，也不是你自己，而是大數據。

利益驅使下，一些網企或平臺用微小的便利換取用戶個人信息，進而分析、利用，并在用戶不知情的情況下，將大量數據匯聚，分析得出用戶的特征，預測、引導他們的消費決定，甚至將用戶數據當作商品上架售賣。

最近，某二手車查詢平臺CEO及多名高管就因涉嫌售賣用戶信息被帶走。有人發現，該平臺主要提供相關交易車輛的查詢服務，查詢一次10元到40元不等，只要肯花錢，某輛車在4S店的所有維修記錄、車主情況、車輛使用狀況等隱私信息，平臺都可以打包出售給你。

今年7月，國內知名網企“滴滴出行”就因玩的過火攤上了事情。“滴滴出行”APP因在經營中存在嚴重違法違規收集使用個人信息問題，被國家網信辦通知應用商店強制下架。隨后，國家網信辦即會同公安部、國家安全部、自然資源部、交通運輸部、稅務總局、市場監管總局等七部門，聯合進駐滴滴出行科技有限公司開展網絡安全審查。這樣的行動對國內大型網企來說尚屬首家。

一個時期以來，網絡平臺不斷曝出泄露用戶數據、侵犯用戶隱私、非法收集、利用用戶數據等事件，引起人們對個人數據安全性和個人數據價值的警醒。

今年全國兩會上，全國政協委員、北京天達共和律師事務所主任李大進就呼吁加強數據產權立法。在李大進看來，數據作為新型生產要素，在社會經濟生活中的重要性日益顯著。個人、企業或其他組織合法擁有或者控制的數據，可以為其帶來可預期的經濟利益，具備作為資產的基本要素，應該對數據產權進行立法。

一些專業人士也指出，數據被一些平臺濫用，涉及到每個人的隱私，如身份證號碼、手機號碼、銀行卡密碼、家庭住址等。人們之所以經常收到很多騷擾、詐騙、推銷電話，只能說明自已的數據被泄露了。

數據是有價值的。那么，涉及個人信息的數據其所有權到底歸誰？人民日報海外版文章《我的信息應該我做主》指出，在大數據時代，誰掌握了數據，誰就掌握了主動。“數據獲取要有界限，個人信息保護刻不容緩。對App要嚴格監管，我的信息我做主。”

持相同看法的不只是這篇文章，還有很大的群體。普遍認為，涉及個人的基本信息和行為信息，應屬于數據本人的固有資產，第三方只有合法使用的權利，而無權侵占個人數據甚至將個人數據用于非法用途。

遺憾的是，一些網企或平臺并沒有這種意識，他們一如既往肆意獲取用戶數據，把用戶數據的價值占為己有。甚至國內有的學者也認為，“將數據產權劃分給搜集數據的企業會更有效率”，加上一段時間以來法律相對滯后等原因，使得數據產權的歸屬一直模糊不清，存在爭議。

現在，越來越多的人認為個人數據的擁有權及使用權都應該掌握在自己手上，而不應該歸平臺所有。

專家指出，人工智能最核心的就是數據，只有不斷的注入新的數據才能把機器訓練得越來越聰明。現在，數據不僅值錢，更是一個金礦，只有我們掌握了自己的數據，才能讓數據被正確的使用。如果APP需要數據，就應該花錢購買。同時，在數據交易中，還必須保護我們的數據不會泄露。如果我們個人的數據被泄露或出賣，甚至造成很大的財產損失及人身安全，應參照歐州的做法，嚴厲懲罰平臺，讓相關網企承擔應有的法律責任。

數據采集，授權書上讓人一鍵勾選

人工智能的基礎是大數據，大數據的基礎又是數據采集。無論人工智能還是大數據，前期海量的數據采集，是基礎的基礎。

專業人員表示，數據采集一般有四種做法：一是從內部獲取。平臺已經有的資訊，是獲取數據首先考慮的做法。二是從政府及非營利組織獲取。每一個政府機構都會收集數據。海量的資料一般就在電腦、電話或公共圖書館里。三是從商業渠道獲取。許多數據往往從內部、政府機構，或非營利組織是得不到的，平臺只能從商業渠道購買。四是自主獲取。一些網絡平臺需要某些數據，但無法從其他渠道獲取。這時候他們就自主開展一些調查，通過問卷方式獲取他們想要的數據。或者，有的網企和平臺安裝傳感器或派人觀察，以此獲取數據。

專家指出，除了傳統的做法，現在很多網企或平臺獲取數據的方法幾乎都用到一個手段——“一鍵勾選”。假如你要使用某個網企或平臺的某項服務，你必須在它事前擬好的同意書上一鍵勾選。網企或平臺通過這個技術，只要用戶一鍵勾選同意授權下載某個軟件，平臺就會知道用戶打開過什么網頁、看了多久、操作到什么程度等等。然后，網絡后臺就能結合用戶的基礎信息，匹配用戶的社交圈、消費習慣等，進而形成“用戶畫像”，并可以隨便利用用戶在社交網上的各種資料，配合用戶在網上的瀏覽信息建立模型，用模型運算預測下一步用戶可能發生的網上行為，甚至還能夠洞悉用戶的性格、得出用戶的三觀、偏好等等，想想，挺恐怖的。

黃女士是某讀書軟件的一名忠實用戶。有天，她打開軟件照常看書。突然發現，軟件里可以查到好友的閱讀記錄，而且能夠相互查看對方的書架、閱讀的書目、讀書想法等信息，而她與好友之間并沒有互相關注。

黃女士感到有點緊張：一個人讀什么書，一般會關聯這個人的生活及思想行為等諸多隱私，甚至能大致判斷出這是一個什么樣的人。一位患有某方面隱疾的用戶，她很可能會在讀書軟件上閱讀相關的醫療書籍，而她并不一定愿意讓朋友和家人知道她患上了某種疾病;一位正在備孕的女士，她很可能會閱讀孕期健康類的書籍，但她也許暫時還不希望別人知道此事。讀書軟件卻會將她不想讓大家知道的事情，全部曝曬出來。

2021年7月， 世界人工智能大會在上海召開，會上無人駕駛、機器人技術等紛紛亮相。（圖片來源：CFP）

“仔細一想，挺可怕的。”黃女士覺得該讀書軟件侵犯了她的隱私，一紙訴狀將開發該讀書軟件的公司告上了法庭。

與此相似的還有今年“3·15”晚會央視曝光的一個事實：包括某衛浴公司、某汽車制造商等在內的20多家知名企業，在店面擅自安裝人臉識別攝像頭，非法采集和濫用人臉信息，并通過人臉洞察人們的年齡、身份甚至情緒、消費習慣等，對消費者行為進行評級。網友驚呼：我的臉被“偷”了，而我對此一無所知。

科技的普及，人們似乎習慣了向各個網絡平臺以及各類繁雜的App妥協，密密麻麻的用戶授權書大同小異。如果用戶想獲得某一方面的服務，就不得不被迫全部授權。那些讀起來拗口晦澀的條款無非強調一點：你不同意，就不能使用相應的服務。此時，所謂的隱私保護就成了讓用戶不得不同意的“軟刀子”，久而久之，人們就習慣了各種“一鍵勾選”，也懶得再去細讀、核實有關權益條款。事實上，對于客戶，你就算細讀也沒有用，你不勾選，就用不了它的服務。

幾年前，用戶朱女士曾將某網絡公司告上法庭，原因是她在某網絡公司搜索引擎上搜索相關關鍵詞后，一個特定的網站上出現與關鍵詞有關的廣告。朱女士認為，該搜索引擎公司利用網絡技術，在未經其知情和選擇的情況下，記錄和跟蹤了其搜索的關鍵詞，將其興趣愛好、生活學習、工作特點等均顯露在了相關網站上，并利用記錄的關鍵詞對其瀏覽的網頁進行廣告投放，侵害了自己的隱私權。

一審法院判決朱女士勝訴，認為某網絡公司收集朱女士信息，并在其不知情和不愿意的情形下進行商業利用，侵犯了她的隱私權。但二審法院撤銷了一審判決，認為該網絡公司的個性化推薦行為不構成侵犯朱女士的隱私權，判決駁回原告全部訴訟請求。

對此，中國律師協會知識產權委員會主任、北京高文律師事務所主任王正志表示，這是我國cookie技術與隱私權糾紛比較典型的案件，一審與二審地判決截然不同。一審法院認為，用戶的搜索活動為個人隱私，而二審法院認為，搜索記錄等不屬于個人信息，“由此看來，徹底解決未來數字經濟難題，法律對數據的權利必須做出明確的規定”。

AI算法設計，必須考慮道德倫理

大數據、人工智能帶給人們的，不僅僅是自動駕駛汽車、工業機器人和教育、醫療、傳媒、金融、法律、科學發現的現代化，也可能是關乎人類的倫理問題，比如安全、隱私、道德等等。

江蘇省倫理學會執行會長楊明對此認為，大數據、人工智能存在隱私泄露的風險。各類數據采集無時不有、無處不在，個人隱私極易以數據的形式被存儲、復制、傳播。特別是隨是越來越多人工智能產品的出現，有些網企會輕易獲取更多個人隱私數據信息。如果這些數據得不到合理管控，人類將被置于隱私“裸奔”的尷尬境地，從而產生嚴重的倫理風險。

淮北師范大學信息學院王丹、教育學院張家年也認為，大數據、人工智能已經展現出巨大的變革力量，必須考慮大數據、人工智能背后的倫理規范，處理好機器與人的關系，讓技術更好地造福人類。

“比如，要進行合乎道德倫理的算法設計，將國家的法律規范和人的道德情感規則嵌入人工智能系統設計。通過符合倫理的系統設計方法，制定符合法律規范和道德情感的規則，將制定的規范和價值植入人工智能系統，并通過使用者、設計者和組織者對嵌入人工智能系統的規范和價值進行評估，判斷嵌入價值與社會價值的一致性和相符性。”王丹說。

“同時，要建立大數據、人工智能群體倫理決策框架，加強內部算法監管，規范人工智能研發過程。”張家年認為，考慮到人工智能專注于單一的結構化的領域，對于跨領域復雜環境的倫理決策涉及較少，建立一個跨領域的人工智能群體倫理決策框架，對倫理道德進行多維度考量、協同式綜合運算得出最優解決方式”。

專家學者的盼望和國家部門的考慮不謀而合。今年7月26日，市場監管總局、國家網信辦、國家發改委、公安部、人社部、商務部、中華全國總工會聯合印發了《關于落實網絡餐飲平臺責任切實維護外賣送餐員權益的指導意見》，明確對保障外賣送餐員正當權益提出全方位要求。其中提到，不得將“最嚴算法”作為考核要求，要通過“算法取中”等方式，合理確定訂單數量、準時率、在線率等考核要素，適當放寬配送時限等。這是國家層面對平臺算法進行監管、規范的有力例證。

而對于算法設計與倫理道德之間關系，一些專家和研究人員也提出不少建議。北京智源人工智能研究院倫理與安全研究中心主任、中國科學院自動化研究所研究員曾毅認為，無論是企業、科研機構還是政府，在指導人工智能發展的時候，應建立不同層級的人工智能倫理和治理委員會，還要建立人工智能服務和產品的監管平臺，“一旦出了問題，有關部門不僅要及時約談，還要通過監管平臺發現網絡企業的知情同意書是不是有違反國家法律的條文，這樣就可以在產生社會負面影響之前，規避掉存在的風險”。

王丹表示，人工智能是人類智慧的產物，參與和設計人員的道德底線會影響算法的公平與工作，因此應制定人工智能研發人員必須遵守的倫理工作標準，解決好人工智能的安全責任問題。“可以設立大數據、人工智能事前監督和事后評估制度，制定產業研發人員倫理工作標準，強化專業責任意識。對于具有危險性的人工智能產品，設計時要聘請領域專家對算法進行審核，投入使用后要評估應用過程中存在的問題，以研究解決的對策，優化人工智能性能。”

同時，一些專業人員認為，還應建立健全對隱私權的法律規范體系，切實保護人工智能使用者的隱私。要通過設立隱私保護數據庫，在人工智能數據運用的過程中，系統自行判斷對隱私數據的存取是否必要、是否合法。要使用區塊鏈技術保障數據的真實性、可靠性與不可修改性，提高算法預測的準確性。

令人高興的是，最近一年，國家層面不斷加大對個人信息及數據安全的保護工作。

2021年4月26日，備受關注的個人信息保護法（草案）已第二次提請全國人大常委會審議。據悉，這部法律草案明確規定，個人對其個人信息的處理享有知情權、決定權;個人有權限制或者拒絕他人對其個人信息進行處理;違反該法規定處理個人信息的，由履行個人信息保護職責的部門責令改正，沒收違法所得;對侵害眾多個人的權益的，人民檢察院、履行個人信息保護職責的部門和國家網信部門確定的組織可以依法向人民法院提起訴訟。

2021年6月10日，全國人大常委會審議通過了《數據安全法》。這部新通過的法律從數據安全與發展、數據安全制度、數據安全保護義務、政務數據安全與開放、法律責任等多方面，對數據處理活動，保障數據安全，保護個人、組織的合法權益等作出明確規范。

2021年7月28日，又有兩條消息傳來。一條是，科技部當天發布了《關于加強科技倫理治理的指導意見》（征求意見稿），向社會公開征求意見，旨在加大科技倫理治理力度，推動科技向善。另一條是，最高法也于當天發布了人臉識別應用規范司法解釋，明確強調，應用程序不得強制索取非必要個人信息。

最高法表示，人臉信息屬于敏感個人信息，處理活動對個人權益影響重大。因此，在告知同意上，有必要設定較高標準，以確保個人在充分知情的前提下，合理考慮對自己權益的后果而作出同意。最高法還規定，對于在賓館、商場、銀行、車站、機場、體育場館、娛樂場所等經營場所、公共場所違反法律、行政法規的規定使用人臉識別技術進行人臉驗證、辨識或者分析，應當認定屬于侵害自然人人格權益的行為。

專家表示，近期一系列法律法規的出臺，對進一步提高全社會的數據安全保護意識和水平，推動有關部門、行業組織、科研機構、企業、個人等共同參與數據安全保護工作，形成全社會共同維護數據安全的良好環境具有重要作用。同時，也為相關部門依法查辦處理涉及數據安全的案件提供了明確的法律依據。

（魏敏對本文有貢獻）