數(shù)字時(shí)代下算法歧視的表現(xiàn)、產(chǎn)生原因與法律規(guī)制

程 蕾

（華東政法大學(xué) 法律學(xué)院，上海 200000）

一、數(shù)字時(shí)代下算法歧視的表現(xiàn)

（一）數(shù)字時(shí)代下算法歧視的產(chǎn)生

人工智能在當(dāng)前的技術(shù)革命中發(fā)揮著重要驅(qū)動(dòng)作用，一系列新生事物與行業(yè)隨之產(chǎn)生。隨著人工智能與大數(shù)據(jù)的深度結(jié)合，我們的生活發(fā)生著翻天覆地的變化。此次的技術(shù)革命相比于之前的工業(yè)革命，其適用領(lǐng)域更廣，影響程度更深，全新的數(shù)字生活時(shí)代正在被重構(gòu)，新的生活理念與生活方式正在形成。在2017年我國(guó)發(fā)布的《新一代人工智能發(fā)展規(guī)劃》中，明確提出確保人工智能的深度發(fā)展，制定與人工智能發(fā)展相匹配的法律法規(guī)等內(nèi)容。

算法是人工智能的三要素之一，也是對(duì)人工智能發(fā)展至關(guān)重要的因素，數(shù)字時(shí)代的到來(lái)，讓算法在人工智能中的應(yīng)用不斷增多，使得我們每個(gè)人都處于算法帶來(lái)的便捷之中，也使得人們的隱私信息處于算法的漩渦之中。比如，公司在招聘時(shí)以算法篩選簡(jiǎn)歷；外賣(mài)平臺(tái)通過(guò)算法推測(cè)顧客的喜好進(jìn)行精準(zhǔn)推薦；銀行通過(guò)算法決定是否通過(guò)借貸人的信貸審核；法院和檢察院可以通過(guò)算法輔助生成法律適用方案等。算法在商業(yè)與公共治理場(chǎng)景下被廣泛使用，在帶來(lái)便捷與準(zhǔn)確的同時(shí)，也會(huì)給個(gè)人甚至社會(huì)帶來(lái)不利影響，增加侵犯人們權(quán)利的風(fēng)險(xiǎn)。

在人工智能算法帶來(lái)的諸多挑戰(zhàn)中，“非歧視”是高度關(guān)注的風(fēng)險(xiǎn)話(huà)題之一。算法決策是大規(guī)模使用相關(guān)數(shù)據(jù)做出決策，通常認(rèn)為，流程式的算法決策相比于人工決策會(huì)更加客觀(guān)公正。……