AI系統(tǒng)如何不遭人恨

齊夫·卡蒙 羅姆·施里弗特 克勞斯·韋滕布羅赫 楊海洋

大數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、人工智能的結(jié)合是如今全球經(jīng)濟(jì)中最耀眼的閃光點(diǎn)。但也有人不看好人工智能應(yīng)用，第一個(gè)原因就是侵犯數(shù)據(jù)隱私。人工智能是靠數(shù)據(jù)驅(qū)動的，人們不清楚自動化技術(shù)掌握了什么隱私信息，也不明白了解到的信息要派什么用場，由此產(chǎn)生了擔(dān)憂和不安。

第二個(gè)原因就是侵犯用戶的自主決定權(quán)。當(dāng)顧客認(rèn)為服務(wù)供應(yīng)商能夠基于他們過去的選擇，預(yù)測其未來傾向時(shí)，他們通常會選擇次優(yōu)方案。也就是說，消費(fèi)者會有意違背自己的偏好，做出有悖于預(yù)測的選擇，以重建個(gè)人自主權(quán)。

企業(yè)要想開發(fā)不會引起顧客仇視的人工智能技術(shù)，需做到以下幾點(diǎn)。

保護(hù)顧客的個(gè)性特點(diǎn) 自主權(quán)的一個(gè)重要方面就是個(gè)性。當(dāng)人們遇到問題需要幫助時(shí)，他們渴望得到人工客服的關(guān)注，而不喜歡機(jī)器人提供千篇一律的解決方案。人們在生病的時(shí)候也更希望見到醫(yī)生或護(hù)士，而不是具備醫(yī)護(hù)功能的機(jī)器人，因?yàn)樗麄冇X得自己的病情有獨(dú)特的地方，機(jī)器考慮不到這種細(xì)微的個(gè)體差異。

不過人工智能的機(jī)器人可以小步推進(jìn)，讓每一次互動變得人性化。在一項(xiàng)隨機(jī)對照測試中，如果算法對拒絕顧客交易的原因做了簡單說明，那么顧客撥打服務(wù)中心電話的可能性就會低于沒有任何解釋說明的情況。

保護(hù)顧客不愿被預(yù)測的自由 自由的一個(gè)主要方面就是個(gè)人可以改變想法，放棄一貫的行為模式。消費(fèi)者越是覺得公司期待他們按照過去的選擇走出下一步（比如商家根據(jù)其購買記錄或?yàn)g覽歷史，有針對性推送商品），就越想擺脫這樣的選擇定式。

謹(jǐn)慎選用推送措辭會有所幫助。如果把消費(fèi)者行為描述成“前后一致”（表達(dá)正面含義），而不是“可預(yù)測”（傳遞負(fù)面含義），那么在消費(fèi)者心里，這種對自主決定權(quán)的威脅可能就沒那么大。例如，消費(fèi)者在亞馬遜上買了《指環(huán)王》系列叢書中的一兩本，那么接下來他們會收到邀請來“繼續(xù)領(lǐng)略托爾金的作品魅力”或“全面了解本套叢書”。這種推薦方式會無形地鼓勵(lì)他們按原先選定的道路前行，而不會迫使他們做出改變來彰顯自己的獨(dú)立自主性。

保護(hù)顧客的隱私 去年，《紐約時(shí)報(bào)》報(bào)道稱，美國至少有75家公司從多達(dá)2億部移動設(shè)備中收集極其精確的位置信息。美國東北大學(xué)的研究者發(fā)現(xiàn)，有9，000多個(gè)安卓應(yīng)用得到授權(quán)，可以調(diào)用所安裝設(shè)備上的麥克風(fēng)與照相機(jī)。

利用算法來推導(dǎo)人的行為，有時(shí)會很愚蠢，令人氣憤甚至心碎。2018年，一位任職于《華盛頓郵報(bào)》的視頻編輯流產(chǎn)了，但線上的孕婦產(chǎn)品廣告還是源源不斷地推送給她，一次又一次撕開她內(nèi)心的傷口。因?yàn)橛辛松缃幻襟w，這類嚴(yán)重侵犯個(gè)人隱私的事情很容易就被公之于眾。企業(yè)應(yīng)當(dāng)小心謹(jǐn)慎，避免過度利用相關(guān)數(shù)據(jù)。