新時代中國倫理思想破解智能財務倫理困境

【摘 要】 新一代信息技術的不斷發展與深度應用，為財務人員帶來便利的同時，也帶來倫理風險或困惑。文章從中國傳統的倫理思想出發，融合馬克思主義政治經濟學的倫理特色，以習近平新時代中國特色社會主義思想中的倫理思想為核心抓手，從規范、責任、協同和綠色等層面，深度解析人工智能倫理的內涵與特征、智能財務倫理問題類別，探尋破解智能財務倫理困境的政策建議。

【關鍵詞】 人工智能； 智能財務； 倫理； 政策

【中圖分類號】 F230；TP39 【文獻標識碼】 A 【文章編號】 1004-5937（2025）02-0130-06

數千年來，哲學家們一直在思考，當面對道德困境時（如典型的有軌電車問題），什么才是行為的道德方式，即什么是“正確的事情”，這便是倫理學一般研究的焦點[ 1 ]，而倫理學的基礎是理解我們的行為如何影響他人的幸福[ 2 ]。新一代信息技術的不斷發展與深度應用，為財務人員帶來便利的同時也帶來倫理風險或困惑。以ChatGPT為代表的生成式BI成為2023年討論的熱點技術，人們在感慨技術進步的同時，也伴隨著技術恐慌和憂慮。2023年4月11日，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》，期待生成式人工智能技術健康發展和規范應用。當大家在激烈討論數據泄密、數據倫理相關問題時，應該明確倫理實際上是一個隱性的動機，而不是明確的動機[ 3 ]，應該明確智能財務建設中哪些行為屬于倫理討論的范疇，更應該明確如何將中國人工智能治理委員會（CAIGC）發布的新一代人工智能治理原則轉換為可以落地的政策與建議。面對這些亟待解決的科學問題，我們應該以史為鑒，從中國傳統的倫理思想出發，融合馬克思主義政治經濟學的倫理特色，以習近平新時代中國特色社會主義思想中的倫理思想為核心抓手，深度解析人工智能倫理的內涵與特征、智能財務倫理問題類別，探尋破解智能財務倫理困境的政策建議。

一、新時代中國倫理思想的核心內涵

中國傳統倫理思想源遠流長，從強調人的血緣輩分關系到調整人與人關系的條理、道理和原則，既具個體性又具社會性[ 4 ]。倫理是調整個體利益和社會整體利益的協調過程與原則，但目前還沒有一個統一的、標準的、明確的倫理體系[ 5 ]。馬克思主義政治經濟學重視生產的目的、財富的分配以及與此相關的正式和非正式的制度安排是否符合公平正義，這充分體現了馬克思主義政治經濟學的倫理特色[ 5 ]。進入新時代，以習近平同志為核心的黨中央詮釋和創新發展了馬克思主義政治經濟學“以人民為中心”的思想，堅持把“增進人民福祉”作為推進我國經濟社會發展的倫理目的，提出的五大新發展理念準確把握了發展倫理學的核心問題?？偟膩碚f，新時代中國倫理思想的核心內涵包含以下內容：

（一）法治與德治并舉是倫理治理的基本思路

“法安天下、德潤人心……法律是成文的道德，道德是內心的法律”①，法律與道德都是人們的行為規范，兩者是“準繩”與“基石”的關系，既有聯系又有區別，道德對法律有滋養作用，道德規范是人們的價值追求，在一定條件下可以轉換為法律規范，而法律可以承載道德理念，對于道德領域的突出問題可以運用法律進行解決。

（二）五大新發展理念是發展過程中應遵循的倫理規范

習近平同志提出的創新、協調、綠色、開放、共享的“新發展理念”，回答了追求怎么樣的發展、如何讓所有成員共享發展成果、如何處理人與人關系建立公平公正的和諧社會、如何處理人與自然關系實現綠色發展。創新發展特別是技術創新應堅守以人為本的倫理底線，不得損害人、組織與社會利益，應以創造更加公平公正的社會與為人們創造美好生活為宗旨；協調發展是解決發展不均衡的問題，要求技術創新帶來的發展應該是在一定規則范圍內的、可控制與可持續的發展，不會對人、組織、區域和社會發展帶來不公平性；綠色發展要求處理好人與自然和諧共生關系，在技術創新發展過程中應堅持綠色發展方式和生活方式；共享發展注重的是解決社會公平正義問題②，目標是關注現實中每個人的存在，讓所有人都具有獲得感、參與感以及幸福感，并不會因為自己的行為而影響他人的幸福。

（三）大德與小德統一是倫理價值觀的追求

目前所形成的社會主義核心價值觀其實是一種德，是大德和小德的統一，既是國家的德、社會的德，也是個人的德③。小德要求我們每個人做好小事、管好小節，而大德是基于社會和國家層面要求服務人民。在日常的行為過程中，修德不僅修的是個人的小德，也是在吸納中華優秀傳統文化的基礎上修大德，而傳統文化中的“修身齊家治國平天下”正是小德走向大德的過程。

二、人工智能倫理內涵

當信息技術與倫理相融合時，應明確信息技術等工具理性的邏輯，它不僅控制著那些直接遵循嵌入式模型和程序要求的人的行為，而且控制著管理組織資源的人的行為[ 6 ]?；蛘哒f以人工智能為代表的新一代信息技術可以看作是工具理性的物理表達，這種技術強加了一種組織、延續和改變社會關系的模式，使它們反映出工具理性的標準，并最終符合主導的意識形態[ 1 ]。因此，在分析人工智能等新一代信息技術具體應用時不能僅僅看作是非道德技術的中立表現，而應看作是與權力和控制相關的社會意識形態的體現[ 1 ]。比如，不同的利益群體所關注、存儲的信息不同，反映出看待自己和周圍環境的態度也不同；對哪些功能、對象感興趣，有可能就會選取反映其價值觀的模型和程序；隱含在智能產品中的假設、模型和程序的隱蔽性及未知性降低了人們質疑自身行為的基本原則或后果的能力[ 1 ]；按照智能產品要求所采取的行為很有可能造成權責歸屬的不明確問題等。

人工智能等新一代信息技術對人類社會帶來益處的同時也內嵌著人類倫理道德的成分，進而會在技術開發或使用過程中因規范標準的不明確帶來倫理的反思。對技術倫理的反思主要著眼于技術所處的具體環境，包括技術、人、社會和自然，關注技術進步的條件、使用的預期與目的、運用的手段以及帶來的主觀與非主觀意愿的后果[ 7 ]。有學者運用宏觀ETHOs模型（Environmental，Technological，Human，and Organizational，簡稱ETHOs）理解、識別、發展和檢查智能產品設計、開發、實施及應用過程中可能存在的倫理問題[ 3 ]，涉及標準、技術規范、行為原則等環境因素，軟硬件技術特征與功能等技術因素，文化、個人特征與行為、態度等人為因素，以及組織戰略、架構、信息規劃等組織因素。

對人工智能倫理的分析主要從主體關系、倫理存在形式、倫理的價值判斷標準三個維度進行。人工智能倫理中涉及的倫理主體關系包括人與人、人與自然以及人與智能產品。人工智能倫理存在的形式包括觀念、情感等無形形式和標準、行為規范等有形形式。人工智能倫理的價值判斷標準主要是指人工智能應該遵循的倫理原則。比如歐洲科學和新技術倫理小組（EGE）在2018年3月公布的“人工智能、機器人和自治系統聲明”，含人性尊重、自主決定權、責任、正義、公平、人類團結的促進、民主、法治和當責9項倫理原則及民主前提；而2019年中國人工智能治理委員會（CAIGC）發布了“新一代人工智能治理原則：發展負責任的人工智能”提出了組織在開發AI應用程序以保護人類和社會權利時應遵循的8項規則，包括和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理[ 8 ]。

綜上分析，將人工智能倫理上升為意識形態層面，即從制度、社會和組織層面歸結人們做出倫理決策的利益出發點，而對人工智能倫理內涵的討論，實際上是探究人工智能產品設計、開發、實施及應用過程中的倫理邊界問題，即哪些可以納入人工智能倫理的研究主題范疇。

三、智能財務倫理問題分類

對智能財務倫理而言，強調的是財務人員在人工智能技術使用中的行為原則（Michael Alles，2020a），在適當的時候防止對他人、組織和社會的傷害（Michael Alles，2020b）。綜合考慮環境、技術、人的行為、組織以及倫理主體關系、倫理形式和倫理治理原則，將智能財務倫理問題歸結于以下幾類：

（一）人機倫理

無論是智能財務機器人（含RPA）還是智能財務產品（如智能財務分析軟件等）都會涉及道德行為主體的討論，即智能機械人或智能產品是否要承擔道德責任，人機倫理是否要遵守人與人之間的倫常關系[ 9 ]？這些依然是要討論的核心倫理問題。而人機倫理關系問題的討論包括：（1）侵犯企業數據隱私問題，比如軟件公司對客戶數據隱私保密問題，集團內部各子公司財務、業務數據集成到財務數據中臺有可能造成數據隱私、濫用問題[ 10 ]；（2）人工智能技術是否滿足使用者預期和用戶需求，目前人們對智能財務機器人或智能財務產品的期望較大，但有時過高的期望反而事與愿違，比如管理會計人員依托RPA技術可以實現管理會計報表的智能生成，但是復雜的管理會計報表間的嵌套邏輯、RPA技術尚未做到完全的自動抓取數據，還需要人工補錄、計算、財務數據調整等；（3）事先設定的算法有可能將人類原有的偏見傳遞給使用者或者被放大，如商業智能（BI）依托實現設定的專家規則對財務數據進行分析，有可能將專家本身的偏見進行傳遞[ 10 ]；（4）使用者對智能財務機器人或智能財務產品的態度，如可能產生較強的依賴，也可能對其不信任，財務機器人可以解放財務人員繁瑣的工作，但可能使財務人員造成依賴，影響對原有財務數據的敏感性，也有可能使用某類智能財務產品所產生的決策與其職業判斷不相符時造成信任感危機；（5）使用者對智能財務機器人或智能財務產品操作層面是否會帶來不舒適感和不公平性，比如智能財務帶來的財務人員被迫轉型，從核算財務轉變成b017585a404afbd8005eb3e365c3f24e業務財務，需要深入到業務一線，而有的業務財務63576f1e9dc6c4de985eb708e2a8eb02需要一定的SQL編程能力，這樣會給財務人員帶來挑戰，又如不公平性主要是一些智能化軟件產品對年紀較大的財務人員操作不友好，不容易操作。

（二）責任歸屬的倫理

責任倫理學是倫理研究中很重要的分支，主要是分析責任主體的倫理目的、行為方式、結果以及成因等[ 11 ]。就智能財務機器人或智能財務產品而言，責任倫理應該是以人工智能技術算法為核心的程序或系統在設計、開發、實施以及應用過程中的責任歸屬問題。應建立必要的問責制，主要是指與人工智能技術應用相關的監管者、需求分析師、軟件開發者、系統建設主要負責人以及使用者應該在哪些環節、哪個節點承擔哪些必要的責任。比如在系統設計、開發階段，系統建設主要負責人、使用者以及需求分析師是否應該做好需求的溝通者、傳遞者和轉化者，使會計準則、賬務處理規則、財務管理理念等財務需求可以被軟件開發者充分理解；軟件開發者是否應充分理解財務需求，將財務語言轉化為計算機語言。除此之外，需求分析師是否應根據客戶需求選擇恰當的數據建模算法或規則。在系統建設實施階段，哪些人需要參與到數據和功能測試中，即哪些人對數據負責，哪些人對系統功能負責，哪些人對算法和規則結果負責都應該明確；在系統應用階段，算法或規則及數據的更新、系統穩定性、系統的推廣應用等責任的歸屬應該被明確，以確保智能財務機器人或智能財務產品可以帶來預期的效益。

（三）人工智能技術應用帶來的倫理價值失衡

技術創新發展是為了更好地追求人類社會的和諧，維護社會公平正義，這也正是社會倫理價值的基本取向[ 9 ]，不能因為智能財務機器人或智能財務產品的使用而加大倫理價值的失衡。在新一代信息技術環境下，對智能財務倫理價值失衡的討論主要集中于：（1）財務算法或規則中本身所隱含的程序偏見。比如智能財務分析與決策類產品，如果財務專業術語多且不好被非財務人員所理解，則會給非財務出身的領導者和各級管理者造成很大的心理壓力。（2）智能財務產品的使用可能會加大倫理價值的失衡。比如對待終端用戶而言，操作是否易用、界面是否友好都應該被考量，經常被推送的財務指標信息會不會隱藏企業運營中的其他信息，業財人員所診斷的異常財務指標原因是否真實可靠會對管理者決策帶來影響。（3）智能財務機器人或智能財務產品的應用使部分財務人員面臨失業或者新的工作挑戰。新技術的應用不僅造成原來從事憑證登記的財務人員失業，而且使原來從事管理會計分析或財務分析的人員面臨失業和轉型的風險。比如RPA替代了大量重復且具有明確規則的會計核算工作，迫使財務人員失業或離開原崗位進行財務轉型，而財務共享的廣泛應用使子公司財務人員轉向業務財務崗位，需要對業務進行深度理解并分析財務指標異動背后的業務原因。（4）社會層面的倫理價值失衡。智能財務機器人或智能財務產品的應用可能會對社會公正帶來挑戰，包括資源的配置、技術利益的分配以及技術成果應用過程可能存在“數字鴻溝”或“發展鴻溝”等。（5）自然生態層面的倫理價值失衡。關注新技術應用帶來社會福利和對生態環境改善帶來益處的同時，應該密切關注技術應用的“副作用”，即新技術的應用會不會使資源過度消耗而出現生態過載的問題以及環境污染和碳排放增加的風險。

（四）人工智能技術應用對財務人員的倫理行為與倫理關系的影響

從人的倫理行為層面看，智能財務機器人或智能財務產品對財務人員的影響程度會因為人的屬性特征不同而呈現差異性。部分使用者對智能財務機器人或智能財務產品產生依賴，而且個性化推薦算法可以根據人的偏好、習慣等特征屬性進行精準信息推送，雖然為財務人員獲取信息提高了效率，但如果長期依賴這種信息推送功能，就會造成路徑依賴甚至依賴成癮[ 9 ]，導致人們將注意力完全集中在AI識別出的異常事件上，以及對未知因素的無知[ 1，12 ]，從而形成“信息繭”[ 13 ]；部分使用者因擔心智能財務產品分析結果會影響自己的職業判斷，并造成誤導，進而會對其倫理行為產生影響。從人的倫理關系層面看，智能財務機器人或智能財務產品應用會影響人與人之間的倫理關系。比如智能財務機器人或智能財務產品應用給人帶來的孤立感或隔離感，這不僅是由于使用了支持遠程工作的AI系統，而且歸因于各種在線服務的迅速發展，孤立感從個人交流（即人們現在使用微信或其他軟件在網上聊天更多，而不是在面對面交流中，年輕人更喜歡下班后玩在線游戲）延伸到工作領域。現有的人工智能產品可以使員工在應用程序中完成大部分工作，對財務人員而言，“工作場所”和“同事”就像在線游戲中的對象和角色一樣，無需再進行面對面的溝通與交流，很容易造成人與人之間的倫理問題。

四、基于新時代中國倫理思想的政策建議

面對智能財務機器人或智能財務產品設計、開發、實施及應用過程中可能存在的倫理問題，本文擬從中國新時代倫理思想和內涵出發，在共建共享共治社會治理整體思路下，從規范、責任、協同和綠色等方面提出破解，包括智能財務機器人或智能財務產品在內的人工智能倫理困境的政策建議。

（一）倫理規范與法律約束協同發力

法律有效實施有賴于道德支持，道德踐行也離不開法律約束，法律和道德協同發力是習近平治國理政的倫理思路[ 14 ]。應從習近平總書記大德和小德的論述中汲取營養，在智能財務機器人或智能財務產品系統設計、開發、實施和日常應用過程中，充分發揮企業、科研院所、科研人員、監管者、使用者的能動性，形成具有普通共識、約束力的道德倫理規范，強化自我約束與監督[ 9 ]。另外，應在日常的倫理規范執行中不斷積累和提升，從而上升到法律和制度層面，形成大德。具體包括：（1）強化自我修身和道德約束。對于開發者而言，應選擇不偏不倚的算法，不應該將自身偏見與歧視等主觀性意念寫入算法中，同時應該注意保護用戶或使用者的隱私安全。對于使用者而言，自身素質的提升是指主觀上為適應人工智能技術的應用而對自己綜合素質的提升，主要有技術能力、專業懷疑能力、正確心態以及用戶自主性等，一般是通過自我學習和領悟而提升的。當然，社會或者行業第三方機構或者使用者所在的單位也可以提供必要的培訓，主要有新一代信息技術前沿與理念，技術、算法與規則邏輯，系統操作技能，數據治理與規則等[ 15 ]。（2）強化技術創新約束。2015年，美國電氣與電子工程師協會首次提出旨在解決人工智能和自主系統使用發展倫理問題的“合乎倫理設計”理念，即將智能財務機器人或智能財務產品的倫理規范與法律約束轉換為具體的設計標準，在系統設計之初就嵌入人類的道德規范與約束，使得人工智能系統的決策、行為具有可靠性與安全性，并通過法律法規的“他律”與倫理道德的“自律”甚至智能系統的“物律”相結合，規范人工智能的發展[ 16-17 ]。（3）行業與中介第三方約束。即建立獨立第三方的驗證、監測機制，在技術層面可以由第三方獨立的機構或者由技術專家、倫理學家或決策者組成的團隊制定人工智能應用的實踐標準、行為準則、實施規范等，驗證智能財務機器人或智能財務產品的道德和結構完整性，制定評估標準是否達到了預期用途。

（二）建立利益相關者共擔責任機制

在共建共享共治社會治理整體思路下，在智能財務機器人或智能財務產品建設過程中，利益相關者應共同承擔責任并分享智能化成果，每個利益相關者應負責避免某些道德風險，而且責任應貫穿在智能財務機器人或智能財務產品整個生命周期。如監管者在智能財務機器人或智能財務產品引入前、應用過程以及推廣中承擔必要的監管責任；軟件開發者在前期需求溝通、系統設計與開發以及系統后期運維方面承擔必要的技術倫理責任；智能財務機器人或智能財務產品主要負責人在前期需求溝通、軟件功能需求設計、應用宣傳等方面承擔必要的領導與監督責任；而使用者在系統使用過程中有必要了解系統的操作、功能以及背后的算法邏輯，讓系統更好地輔助決策或提升生活質量，減少不舒適感。

（三）建立共享與協同機制

從微觀的智能財務機器人或智能財務產品到宏觀的人工智能應用，都要在技術創新發展的同時堅持協調發展和共享發展，實際上是在發展的同時兼顧公平，強調利益相關者之間的協同共享。首先，政府層面需注重科技資源的合理配置與調配，包括區域、城鄉之間的合理調配，而對于智能財務的推廣應用應堅持市場導向和政府宏觀調控相結合，西部或偏遠地區政府可以通過推進數字化轉型促進當地國有企業高質量發展，進而實現彎道超越。其次，社會層面應更加關注弱勢群體對新技術的接受度和體驗感。比如大到社會上經常性討論的老年人對智能醫療系統的體驗感，要真正便捷于民，醫院應在新技術宣傳、志愿者服務方面下功夫，讓實惠和便利遍及每一個人；小到微觀企業要考慮到不同年齡階段、不同學歷背景的財務人員，以及財務與非財務背景的管理者對新技術的接納情況，進而減少不公平性。最后，完善利益相關者溝通與反饋機制。溝通和反饋對于處理財務人員與技術、財務人員與企業、政府監管與企業之間的關系都是必不可少的，在所有利益相關者之間建立溝通和反饋機制可以在很大程度上減輕由人工智能引起的道德風險。

（四）兼顧技術創新發展與綠色發展

無論是自然生態層面的倫理價值失衡還是人與自然的倫理關系失衡，都說明人工智能等新一代信息技術的發展在給人類帶來益處、提升效率的同時，會直接或間接導致資源與材料消耗速度加快。另外，海量訓練數據的大規模運轉也會造成能耗的上升。因此，在堅持技術創新發展的同時，應兼顧生態環境，實現綠色發展。首先，在技術層面，可以運用低功耗的存儲技術降低數據中心的高能耗問題，以技術創新解決人工智能技術帶來的高能耗問題；其次，在政策激勵方面，鼓勵企業、高校、科研院所對更節能高效技術的研發，同時政府應制定新的政府采購標準和相應的政策保障措施，鼓勵企業推動低耗節能技術的應用；最后，企業作為新技術應用的主體，應在國家重大政策措施（如碳中和）的約束下，在運用新技術提升效率的同時，控制本企業的碳排放量，從而達到經濟效益與社會效益的均衡發展。

智能財務機器人或智能財務產品的廣泛應用，為大家的生活帶來便利的同時，也不能忽視背后所掩藏的倫理風險。人工智能倫理是一個隱性動機，本文探討倫理的目的就是預防和減少人工智能新技術應用對人、組織和社會帶來的損害。為達到這樣的目的，可以從優秀的中國傳統倫理出發，融合馬克思主義倫理思想，在新時代中國倫理思想的指導下，堅持共建共享共治社會治理的整體思路，從規范、責任、協同和綠色等層面破解人工智能倫理困境，這需要理論界和實務界不斷探索和思考。

【參考文獻】

［1］ ALLES M.Using the 2019 JBE conference and 2017 JIS themed issue as natural experiments to examine the role of editors as gatekeepers of the research literature in AIS and ethics［J］.International Journal of Accounting Information Systems，2020，39：1-22.

［2］ PAUL R，ELDER L.The thinker's guide to ethical reasoning［M］.Tomales，CA：Foundation for Critical Thinking Press，2013.

［3］ GURAGAI B，HUNT N，NERI M，et al.Accounting information systems and ethics research：review，synthesis，and the future［J］.Journal of Information Systems，2017，31（2）：65-81.

［4］ 唐凱麟.倫理學［M］.合肥：安徽文藝出版社，2017：3-42.

［5］ 蔣潔.風險視域下人工智能倫理的主旨和原則［J］.信息通信技術與政策，2019（6）：13-16.

［6］ ALLES M.AIS-Ethics as an ethical domain：a response to guragai，hunt，neri and taylor （2017） and dillard and yuthas （2002）［J］.The International Journal of Digital Accounting Research，2020（20）：1-29.

［7］ 阿明·格倫瓦爾德.技術倫理學手冊［M］.吳寧，譯.北京：社會科學文獻出版社，2018.

［8］ 吳紅，杜嚴勇.人工智能倫理治理：從原則到行動［J］.自然辯證法研究，2021，37（4）：49-54.

［9］ 譚九生，楊建武.人工智能技術的倫理風險及其協同治理［J］.中國行政管理，2019（10）：44-50.

［10］ ZHANG C，ZHU W，DAI J，et al.Ethical impact of artificial intelligence in managerial accounting［J］.International Journal of Acounting Information Systems，2023，49：100619.

［11］ DILLARD J，RUCHALA L，YUTHAS K.Enterprise resource planning systems：a physical manifestation of administrative evil［J］.International Journal of Accounting Information Systems，2005（6）：107-127.

［12］ SEOW P S.The efects of decision aid structural restrictiveness on decision-making outcomes［J］.International Journal of Accounting Information Systems，2011，12（1）：40-56.

［13］ GODDARD K，ROUDSARI A，WYATT J C.Automation bias：a systematic review of frequency， efect mediators，and mitigators［J］.Journal of the American Medical Informactics Association，2012，19（1）：121-127.

［14］ 周中之，高屾.習近平治國理政的倫理思想［J］.馬克思主義研究，2018（5）：19-27.

［15］ ARGOTE L，EPPLE D.Learning curves in manufacturing［J］.Science，1990，247（4945）：920-924.

［16］ 閆坤如.人工智能“合乎倫理設計”的理論探源［J］.自然辯證法通訊，2020，42（4）：14-18.

［17］ 閆坤如.人工智能“合乎倫理設計”的實現路徑探析［J］.大連理工大學學報（社會科學版），2019，40（6）：123-128.