算法決策風險的應對與破局

數智技術賦能傳統產業，推動其數字化、智能化、網絡化改造。然而，在這一轉型過程中，就業市場正在被人工智能（AI）影響和改變，算法決策下的就業歧視問題成為我們不得不關注的重點。

算法決策應用及歧視風險

我們認為，數智化時代下，算法決策被應用在職場全生命周期的各個環節（包括求職者發現環節、面試篩選環節、員工管理環節、離職環節），當然，算法決策的應用在不同環節中也不可避免地存在一定的風險。

第一，求職者發現環節的算法決策。在求職者發現環節，招聘平臺可通過算法推薦系統實現人崗匹配。一方面算法可自動解析求職者簡歷關鍵詞，分析求職者的需求，向其定向化推送符合其意向的崗位，使求職者投遞效率顯著提升；另一方面，算法推薦可以快速幫助企業選擇滿足其特定要求的簡歷，縮短企業簡歷篩選時間。

但是，在該環節中亦存在一定的風險。例如，算法通過學習某企業的歷史數據，產生了歷史偏見。因此算法決策在求職者發現環節，就有可能因為歷史數據導致偏見或歧視的產生，進而導致機會的不均等。另外，如果某算法系統將“頻繁跳槽”設為負面標簽，那么比如因公司解散、合并等而離職的人，可能因為非自身過錯而被認定為頻繁跳槽，進而導致被推薦率下降。

第二，面試篩選環節的算法決策。在面試篩選環節，算法決策發揮的空間將更大，有的系統通過算法決策功能可以在1分鐘篩選完幾百份簡歷，并可以通過NLP（自然語言處理）評估簡歷中項目經歷的真實性，幫助企業減少簡歷造假情況。在面試環節，亦可通過算法系統實現語音識別，分析求職者的邏輯表達能力，捕捉求職者的微表情以判斷其抗壓能力，或將更加精準且高效地評估求職者。

然而，技術局限性依然帶來了新的算法歧視風險。例如，某AI面試算法決策系統將微笑頻率低標記為“不友好”，或者將瞳孔抖動次數多視為“說謊”。但是面試時談論的具體話題或面試崗位的不同均可能導致面試時微笑的情況存在差異，另外戴隱形眼鏡者可能眨眼頻率更高，在一些情況下會被誤判為“說謊”。

第三，就業管理環節的算法決策。在就業管理環節，算法決策被廣泛應用于績效考核、崗位調配等場景。例如，某外賣平臺通過算法優化配送路線，使騎手日均單量提升30%。另外，算法決策系統還可以基于同事互評、項目完成率等數據預測員工表現，提供績效評估的方案，或通過算法決策系統評估員工的崗位匹配度，為員工推薦符合其自身能力的崗位。

不過，通過算法進行就業管理亦可能異化為“數字控制”。《關于開展“清朗·網絡平臺算法典型問題治理”專項行動的通知》，就對包括“一味壓縮配送時間導致事故發生率上升等問題”等的“盲目追求利益侵害新就業形態勞動者權益”的算法機制提出了相關要求。

第四，離職環節的算法決策。在員工離職環節，算法決策亦有一定的應用空間。例如，某企業使用生存分析算法模型與機器學習預測員工離職傾向及評估相應指標，分析要素可包括醫療報銷頻次、通勤距離變化、晉升停滯時長、內部通信軟件關鍵詞等，綜合評估員工的身體健康情況、心理預期、晉升機會等。

值得注意的是，該算法決策的應用會在一定程度上限制員工的業務發展機會，進而導致員工對其工作滿意度下降，從而提高被預測人員的真實離職率，該結果反饋給算法，形成歧視增強回路。

通過以上的分析，我們可以看出數智化時代下算法決策在職場全生命周期的應用及面臨的算法歧視風險。那么，如何應對算法決策中可能存在的歧視風險，這是我們應該予以關注的核心。

歧視風險的應對與破局

一是技術的進一步透明公開。從技術層面來說，可通過“數據預處理→訓練約束→后處理校準”的鏈條式干預，系統性降低算法歧視風險。例如，在數據預處理階段，應明確移除數據中與受保護特征直接相關的字段來剔除敏感特征的數據集，該方法可一定程度上從源頭減少算法歧視的產生。在算法訓練階段，可通過主模型預測目標變量，對抗模型試圖從主模型的預測中推斷敏感特征的對抗訓練方式來調整模型，避免模型出現算法歧視。在后處理階段，可通過閾值調整等方式校準算法模型的輸出。

二是法律法規的進一步細化。在我國，關于算法的法律法規主要有《中華人民共和國個人信息保護法》《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等，但是上述法律法規并沒有對算法決策中就業歧視的判定及歸責進行明確。因此，應進一步明確、完善算法決策中就業歧視的法律規定。例如，除了規制直接用性別、年齡、種族等要素進行算法歧視的情況，也應將通過間接特征（如通過性格測試的結果作為通過面試的因素）或因“歷史數據偏差”等情況導致的間接歧視納入法律調整范圍。同時應進一步強化責任歸屬，除了要求部分算法進行備案，還應要求算法開發者和使用者承擔連帶責任。同時，在某些高風險領域（例如招聘面試等）可以要求強制進行定期審計。

三是社會的多方協同治理。算法的治理及算法決策中的就業歧視問題，不應僅由一個部門處理，應形成跨部門監管的機制和合力。未來也可計劃設立專門機構，并聯合技術專家、法律學者、工會代表等對招聘平臺進行動態監督。例如，對招聘平臺、AI面試系統等高風險場景開展“雙隨機”抽查，要求企業實時接入算法決策日志以供審查。同時，應推動企業建立內部算法倫理委員會，制定透明招聘流程，并向社會公示算法規則。公示的情況可考慮在企業官網與招聘平臺顯著位置公示算法規則中關于簡歷的初篩維度及權重。同時，為求職者提供申訴渠道，如求職者有需要，應向求職者說明算法的規則。

技術向善——科技進步的長期價值與方向所在。

四是其他風險應對與破局方法。為了更好地應對算法決策中的就業歧視風險，還可以在某些跨境場景中進行國際合作。例如，跨國企業的招聘系統可能覆蓋多國求職者，單一國家監管可能無法約束其全球業務。因此，算法技術的跨國性很可能加劇國際勞動力市場不平等。未來可以考慮由多國共同制定算法審查倫理準則，積極開展國際合作。另外，可考慮在對個人權益有重大影響的情形加強人工的介入。《中華人民共和國個人信息保護法》規定，通過自動化決策方式作出對個人權益有重大影響的決定，個人有權拒絕個人信息處理者僅通過自動化決策的方式作出決定。因此，在涉及重大人事決策的情形中應考慮加強人工的介入，例如，算法僅提供輔助建議或采取人工復核機制；又如，可以考慮建立“雙軌制面試”，在AI通過算法進行面試后，對邊緣求職者（如分數相差5%以內的落選者）啟動人工復審，防止算法歧視導致的誤判及不公。

企業、勞動者及整個社會應正視挑戰，正確面對算法決策在就業中的積極作用，以及策略性地解決其中的就業歧視風險。我們在肯定算法決策帶來效率提升的同時，也應關注勞動者合法權益的保護，確定合理的算法歧視監管及治理手段。在技術創新與制度規則的動態平衡中，構建政府引導、技術賦能、法規完善、社會多方協同的良好治理生態，讓算法真正推動社會的公平和發展。

（金澤剛系同濟大學法學院教授；李勝男系上海德禾翰通律師事務所律師）