999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

速度還是方向:人工智能時代的哲學考察

2023-08-23 10:42:42秦子忠
江漢論壇 2023年8期
關鍵詞:人工智能人類

秦子忠

2022 年11 月底,OpenAI 公司推出的社交聊天工具ChatGPT 在發布2 個月后,注冊用戶高達1 億,迅速風靡全球。ChatGPT 的卓越表現在于它不僅能夠結合聊天語境進行與真人無異的交流,還能夠為用戶提供個性化的文案寫作、代碼編寫、翻譯等服務,以及能夠對用戶提出的不良意圖和請求說“不”。鑒于此,有學者認為伴隨ChatGPT 而來的通用人工智能發展浪潮勢必會導致大量腦力勞動者失業,更有甚者認為若不對之加以限制,人類遲早會被強人工智能所取代。這類觀點折射了通用人工智能替代人類所引發的公共焦慮。然而,這種觀點既沒有嚴謹的邏輯分析,也沒有充分認識人類的創新能力。相較而言,ChatGPT 之父奧特曼(Sam Altman)的觀點更為中肯,他認為ChatGPT 會替代的只是當前可重復性的腦力勞動者即白領工人,但人類那些不可重復性的能力是不可能被代替的。如此,在看待通用人工智能的發展上,我們關注的不應是通用人工智能的發展速度,在這個方面它的發展只不過是有助于將人類從重復性的低創新性的勞動領域中解放出來;而是通用人工智能的發展方向,在這個方面人類對通用人工智能發展的介入性干預對于人保障其適當性具有決定性意義。后者不僅事關人類自身的生活品質,也事關人類掌控外部環境的整體實力的發展。在本文中,筆者首先以考察競速統治論為切入點,由此探討人工智能時代的人—機交互類型;其次基于人—機交互類型的多樣性,闡述人類社會的多重化與不平等的極化發展;最后闡述就消除不合理的不平等而言,出路之一是進行社會主義數字化干預。

一、競速統治:人—機交互的三種類型

“競速學”(Dromology)是法國哲學家保羅·維利里奧( Paul Virilio)在40 多年前提出的。在維利里奧看來,技術進步實質上就是人、物、信息等移動速度的提升,而組織演進(如從手工作坊到流水線)歸根結底就是協同速度的變化。(1)如按照這一觀點,技術進步導致的自動化、智能化對人類勞動能力的替代,就是人機之間的工作競爭。(2)從技術發展的極限來看,這種替代效應可能會使人口出現一個廢棄的剩余。(3)之所以是“可能”,是因為組織演進受其現存制度體系與身處其中的人們的集體選擇的影響,從而會有不同的演進方向。(4)

晚近,由于人工智能在諸多領域的強大能力,人們把越來越多的決策權移交給算法,而這又導致其決策更容易被算法替代。據此有學者斷言人類已經陷入專用人工智能所開啟的“競速統治”格局,并且人工智能正在結構性地改變人類政治。(5)但是,這一斷言是缺乏說服力的。“競速統治”作為政治領域的一個范疇,其基本義是指有自我意識的行為主體之間交互形成的一方統治另一方的行為秩序乃至規則體系。這個基本義中的“有自我意識”這一限定在本文語境中是關鍵的。目前,與人類互動的只是能動性專用人工智能,它們在各自所適用的細分領域均已超過了人類,但它們并沒有結構性地改變人類政治。的確,戰勝圍棋大師李世石的AlphaGo 還在迭代升級,比AlphaGo 系列更先進的能動性人工智能也可能會出現,但是它們若沒有發展到具有自我意識的階段,就不會形成人—機競速統治的政治局面。簡言之,構成人—機競速統治的政治局面的大前提是人工智能機器具有自我意識。據此而言,海量數據只是允許人類選擇專注于那些真正有價值的決策,剩下的則留給人工智能,這不是人類與人工智能互為客體的競速統治,不是一方試圖要統治另一方,而是主客體邊界消失的人機融合。這個融合,借用布魯諾·拉圖爾( Bruno Latour) 的“行動者網絡”(Actor-Network)理論,就是人類與人工智能之間沒有主動被動、主體客體之分地聯結在一個密不可分的網絡。(6)當然,如果人工智能能夠進化出自己的感受或意識,那么情況將有所不同。

就人類對意識的了解來看,我們需要考慮這三種情況,一是意識與有機生化相關,計算機不可能創造出意識。二是意識與有機生化無關,而與智能有關,計算機能夠發展出意識。三是意識與有機生化或高智能并無重要關聯,計算機可能發展出意識,也可能發展不出意識。(7)在這三種情況中,第二、三種情況都允許無意識的人工智能跨入有意識的人工智能(8),在這個前提下人工智能能夠發展出自我意識(9),具有說“不”的能力,由此才會真正形成人—機相互競爭的競速統治局面。

既然是競速,就會有誰快、誰慢的問題。基于目前人工智能在某些領域遠勝于人類,大部分學者傾向于認為人工智能會更快。問題是人工智能在何種意義上比人類更快?一種觀點認為人工智能在所有方面都會比人類更快,并且有目的的超人工智能對于人類來說,它的誕生一定是政治性的,而它也將終結人類主導的政治局面,甚至使得人類淪為人工智能的“寵物”(10);另一種觀點認為在能動性人工智能與自主性人工智能之間存在著巨大的裂口,并且已經進入人類當下生活的人工智能全部都是能動性專用人工智能(11),因此“從競速學角度來看,人工智能所帶來的挑戰,恰恰亦正是落在速度提升上:人工智能在‘深度學習’上的速度、對大數據的處理速度完敗人的‘生物算法’。……人正在加速性地喪失自身智能的時代,恰恰是一個人類文明正在全面陷入系統性愚蠢的時代”。(12)簡言之,在人工智能與人類的競速統治上,前一種觀點認為人類未來可能會落入人類終結論所描繪的景象,而另一種觀點否定了人類終結論,強調人工智能與人類的競速統治。但是,這兩種觀點都忽視了那些關于人工智能發展的復雜性科學(Complexity Science)研究文獻。基于復雜性科學文獻,人類的發展在綜合能力上不會慢于人工智能的發展,因此關鍵的是人類的介入,以及介入的目的和方式。

人類的復雜性根源于但不限于以感性、知性、理性、信念、靈感等為要素的認知系統和以主體、客體、目的、手段、協作等為要素的實踐系統,其核心內涵是這兩個系統及其關系。人類的復雜性就其表現而言,就是人類心智(人性)的多樣性、流變性與可塑性,并且相關于以人類意向性為基礎的秩序系統、價值系統乃至文化系統的異質性。這個復雜性構成了人類心智程序化的產物即人工智能發展的邊界。由此而來的一個推理是兩個互證的方面:方面一,人類在綜合能力上的不可超越是因為人類經由數百萬年實踐積累起來的復雜性,但由于這個復雜性的干預而不能在某個領域勝過專用人工智能。方面二,人工智能在專項能力上的不可超越是因為人工智能經由形式系統施予的單一性,但是由于這個單一性的限制而不能在多個領域勝過人類。(13)

通用人工智能,從其發展趨勢來看,是從單一的形式系統的智能到復雜的形式系統的生成式智能,它的混合性或兼容性使得它介于上面推理的方面二與方面一之間。從哥德爾的不完全性定理來看,任何足夠強有力的形式系統,由于其能力更強所以是不完全的。因此人工智能在某個領域越發展,它就越喪失它的其他可能性功能,越不能成為通用人工智能,反之亦然。(14)簡言之,如果這一復雜性推理是正確的,那么從專用人工智能到通用人工智能的過渡即便是可能的,后者的綜合能力也不會高于人類;同理,從無自我意識的人工智能到有自我意識的人工智能的過渡即便是可能的,后者也植入了人性的復雜性,同樣受到復雜性推理的限制,從而它的綜合能力也不高于人類。這里,我們將無自我意識的人工智能統稱為能動性人工智能,而將有可能發展出自我意識的人工智能統稱為自主性人工智能。

基于以上的分析,在當前乃至未來一段時間內,人—機交互關系類型至少可以區分出以下三種:一是人類與能動性專用人工智能分別作為行為者的交互關系。在其中,能動性專用人工智能在單個領域完全超越人類,但前者只是后者能力在某個方面的工具性延伸,人—機交互關系不會發展成為人—機的政治競爭關系。戰勝世界圍棋大師李世石的AlphaGo,其與人類圍棋手的交互關系就是這一范疇的典型。二是人類與能動性通用人工智能分別作為行為者的交互關系。能動性通用人工智能在幾乎所有領域具有相近但總體低于人類的綜合能力,表現出類人行為(而非僅僅是人類能力的工具性延伸),人—機交互關系具有道德直覺上的規范性;但是,由于能動性通用人工智能沒有自我意識、也沒有自身目的,因此人—機交互關系實質上仍然是人與物的交互關系,而非人—機的政治競爭。ChatGPT 及其升級版與人類的交互關系就屬于這個范疇。因為ChatGPT 雖然能夠對不懷好意的提問和請求說“不”,但這只不過是它被事先按照道德準則設定了程序,以及基于大量涉及道德數據訓練的邏輯結果,并非具有自主性。三是人類與自主性人工智能分別作為行為者的交互關系。由于自主性人工智能有自我意識和自身目的,因此人—機交互關系會發展成為人—機的政治競爭關系。從復雜性推理來看,自主性人工智能在綜合能力上低于人類,因此它不可能終結人類。終結人類的或是人類自己,或是變化了的地球環境不再適合人類的碳基生理結構。由此如果人工智能成為地球新的主人,那么并不是人類敗給了人工智能而是其他無關的原因。(15)并且由于人類的介入性干預,人類是否允許能動性人工智能發展成為自主性人工智能是有爭議的。(16)

因為缺乏對人—機交互類型的細致辨析,當前學界的競速統治論并沒有正確地描述人工智能技術發展對人類政治的威脅,也沒有真正抓住消除這一威脅的關鍵所在,并且蘊含著內在的邏輯矛盾。競速統治論一方面強調目前參與人類社會的只是能動性人工智能并且能動性人工智能不可能發展出自我意識;另一方面又強調人工智能正在邊緣化人類、促使人類文明陷入系統性愚蠢,如果人類不能在速度上趕上人工智能發展,那么就會被人工智能所替代。這兩個方面之間存在這樣的解釋張力,即沒有自我意識的能動性人工智能與人類被替代之間的關系是如何可能的。從上面辨析的三種人—機交互類型來看,只要能動性人工智能無法過渡到自主性人工智能,那么不論是人類與能動性專用人工智能的交互關系,還是人類與能動性通用人工智能的交互關系,都只不過是人類與無目的的工具或物的交互關系,這種關系充其量只具有表面上的規范性特征,它在道德直覺上類似人類與其他高級動物之交互關系所蘊含的規范性特征。退一步說,即便人工智能能夠發展到具有自我意識的自主性人工智能,從復雜性推理來看,它作為一種計算機形式系統在綜合能力上也不會高于人類,所以人工智能發展的真正威脅不是人工智能本身,而是人類對人工智能的不正當使用,抑或其他原因。

二、多重社會與不平等的發展

迭代發展的人工智能正在多個領域取代人類個體。如果這個趨勢持續發展,那么就會觸及這樣的極限場景,即所有人類勞動力都被取代了,由此將引出兩種可預見的終極情況。

情況1:所有人類個體成為了多余的人,人工智能在全領域取代人類勞動力。當人類的勞動能力在所有方面都被取代時,人類個體就不被需要了。這時,人類個體還想繼續從事勞動,就不再是為了生產維持生活的必需品,而是勞動本身成為生活的一種需要。情況2:人類的體力、可重復的腦力部分都被人工智能取代了,而那些沒被取代的腦力部分,如創新能力等,在人工智能的賦能下釋放出更強大的能力。由此,人類整體上擺脫了強制勞動階段而進入到自由勞動的歷史階段;這個時候,人類個體的勞動依然對社會發展有其價值。簡言之,這時出現了人機融合的“超人”,每個人都是不可替代的,人人成為自己勞動的真正主宰者。(17)

當前,著名歷史學家赫拉利等學者是在由情況1 規定的視野下展開研究工作的。由此,赫拉利預測21 世紀會出現一個全新而龐大的無用階級,即該階級沒有任何經濟、政治或藝術價值,對社會的繁榮、力量和榮耀也沒有任何貢獻。(18)貝爾納·斯蒂格勒(Bernard Stiegler) 也認為人的生產知識被物質化了的知識(即自動化機器)所取代,人的實踐知識被比所有人更了解所有人的大數據算法所吞噬,人的理論知識則變成一種無產階級化的偽知識;人類正在經歷“被普遍化了的無產階級化”。(19)吳冠軍進一步認為在人工智能時代人類正在面臨文明史上第一次全面出現的“不被需要”困境。(20)基于復雜性推理,筆者以為人工智能不可能在綜合能力上超過人類,因此更具有現實可能性的是情況2 而非情況1。在由情況2 所規定的視野下,人工智能不論是現在還是將來都不能完全取代人類;人工智能的確正在導致人類勞動就業領域的結構性變化,在這個變化進程中人類個體也會經歷由情況1 所描述的“無用階級”“被普遍化了的無產階級化”“不被需要”等挑戰,但這些挑戰不是終局性的,而化解挑戰的方式最終決定了人類不同群體的生活境遇。

速度是重要的,但方向更重要。AlphaGo 戰勝圍棋大師李世石的標志性意義是能動性專用人工智能在單個領域勝過人類的相應專業能力。這勢必給人類生活帶來深刻影響,但不應放大這一影響。從歷史來看,人類經歷了多次類似的影響。例如早在人類軸心時代,荀子就指出人類的高超之處不在于人類要與動物比力量、比速度,而在于選擇了動物無法企及的那個方向發展自身,即“明分使群”。(21)“明分使群”使人類超越了體力較強而腦力較弱的動物。對于人工智能,人類的高超之處仍然是方向上的選擇。不過與人類選擇建立“明分使群”的社會(城邦)由此從動物界中脫穎而出進而馴化所有動物不同,在當前乃至未來,人類不僅要選擇自己創生的人工智能的發展方向,還要選擇他們置身其中的社會的發展方向,并且這兩個選擇的關聯性越來越強。人類社會在未來的具體形態在某種意義上將是這兩種選擇的綜合結果。

當前的世界體系仍然是資本所主導的資本主義世界體系。這個世界體系誕生于16 世紀前后的西歐,隨后它向外擴展至世界其他地區,并迫使后者作為其外部市場。至19 世紀中葉,資本主義世界體系形成了以歐美國家為中心、其他國家為外圍的不平等國際關系。(22)在當代,這種國際關系的不平等日趨加劇,其顯著表現是世界財富的極化分布。據發展援助組織樂施會(Oxfam)發布的2015財富報告顯示,全球社會不平等極化發展,其中全球最富有的1%人口,他們的財富比余下99%人的財富總和還要多。從資本主義自身發展來看,它也經歷了若干階段。在《數字資本主義》一書中,森健、日戶浩之梳理了資本主義從商業資本主義、工業資本主義再到數字資本主義的演進。森健等人注意到,當前的數字技術降低了工業資本主義階段私有財產的競爭性和排他性,產生了以共享經濟為代表的新型數字化經濟,并逐步擴大了公共財產、準公共財產領域的比例,這種擴大導致了數字資本主義的誕生。森健、日戶浩之對數字資本主義的論述深化了我們對21 世紀多重社會的理解,但是由于沒有深入辨析作為資本的人工智能以及人工智能與人類的交互類型,因此他們的論述具有一定誤導性。下面,我們通過考察森健、日戶浩之的相關工作,切入本節主題。

在借鑒日本思想家柄谷行人的世界史構造變化模型(23)基礎上,森健等人以交換方式為切入點解讀世界史的構造,并具體呈現了從A 到D 的四種社會構成體及其交換形式,見下圖:

圖 1 四種社會構成體及其交換形式

交換形式A 是共同體之間的互酬(贈予和還禮),在原始社會中占據支配性地位,在現代社會中仍有遺存。在這種交換形式中,雙方的立場是平等的。交換形式B 是掠奪與再分配,其主要對應的社會構成體是國家,后者以年貢、稅收的形式從其他共同體強制掠取財富,作為回報,國家通過灌溉、社會福利、治安等形式實施再分配。與A(互酬)不同,在交換形式B 中,雙方的立場是不平等的,它是一種發生在支配者與非支配者之間的交換。交換形式C 是商品交換,其主要對應的社會構成體是資本家(及企業)。不同于A(互酬)、B(再分配),交換形式C 是一種源于自由意志的交換行為,但這并不意味著相互的平等,實際上持有貨幣(資本)的一方擁有更高的力量;伴隨著貨幣(資本)持有方持續的資本積累,會產生貧富差距。在現代社會中,交換形式A—C 同時存在,因而社會結構是多重的,但由于最主流的交換形式是C,因此資本主義社會結構仍占據主導地位。交換形式D 是共享,其主要對應的社會構成體是以自由平等交換形式為目標來構建的數字公地,其中“以自由平等交換形式為目標”是數字公地這一概念中的關鍵。因為按照定義,數字公地是指在數字平臺這一較大的范疇中,采用公地方式治理的形態,其典型案例就是任何人都能免費瀏覽網站并自由參與編輯的維基百科。(24)但是,當前大部分數字公地雖然都具備D 的特征,卻主要以積累貨幣為目的,因此它們實際上更接近于C 的機制,其所謂“共享”只是資本在數字時代汲取利潤的新方式。

森健、日戶浩之關于數字資本主義的論述拓展了人們對當前世界的認知,但是由于他們沒有深入剖析人工智能與人類個體的交互關系(包括但不限于交換方式),從而既忽視了人工智能的資本屬性,也誤解了“數字公地”的“平等”。也就是說,本應需要揭示數字時代生產方式的新形式以便洞見人工智能的資本屬性,但是在柄谷行人以交換方式替代生產方式來呈現社會構成體時,人工智能的資本屬性已經被遮蔽了,而森健等人的論述只不過是繼承了這一遮蔽。(25)

我們知道,在工業時代,資本是以土地、廠房、車床等為主要表現形式,它們是馬克思筆下的不變資本,具有明顯的物質性特征,區別于用以購買工人勞動力的可變資本。在數字時代,資本主要集中于知識信息領域,是以專利技術、程序系統、智能機器人、平臺等為主要表現形式。這些形式具有非物質化特征,并以代碼編程的人工智能為其代表;它們在根本上依托于高級知識分子的創新能力,并且加速更新迭代。因此,工業時代的不變資本與可變資本之間的清晰界線在數字時代日趨模糊,但是資本(積累)并不會因此消失,它的以獲取剩余價值為目的的剝削機制也不會消失,只是變得更隱蔽了。

顯然,就人工智能作為資本的新形式而言,數字資本主義不可能自發演化成為具有社會主義性質的數字公地。因此森健等人強調“以自由平等交換形式為目標”來構建數字公地。這意味著數字公地與共享所蘊含的真正的平等價值,其形成與確立,都有待于人類的選擇性干預。這種選擇性干預,在能動性人工智能發展階段,不是人類要與能動性人工智能比速度,而是要改變占有能動性人工智能的所有權結構;在自主性人工智能發展階段(比如由于變化了的氣候不再適合人類碳基機體生存,人類不得不進入這一階段),也不是人類要與自主性人工智能比速度,而是要改變原有的只適用于人類個體的法律結構,以便平等地對待自主性人工智能主體,即接納后者為一個與人類個體平等的主體而非人類的純粹工具。這種干預的方向,將會深刻地改變社會構成體的性質。從森健等人發展了的世界史構造來看,在干預能動性人工智能(數字技術)上的支持與否的態度,會促使社會結構朝著不同方向演化。當前各個社會處在不同的數字化發展階段,它們彼此交互影響,并且它們并不一定都朝著同一方向發展,因此人類社會在數字化方向上是一個更加多元的多重社會。

作為故事的另一面,在數字化轉型過程中數據越來越具有基礎性地位,因而它的價值不僅在于它自身,也在于它對其他非數字生產資料的支配作用。然而,在普通網民那里,他們大多數人仍然未意識到日常產生的數字記錄(數據)的價值,自然也不會覺得自身的在線活動是一種數字勞動,不會覺得自身遭受數字剝削。事實上,數字技術導致的更高剝削率與數字經濟諸效應之耦合加劇了人類社會的不平等。(26)大體而言,規模效應降低成本,網絡效應增加收益,反饋效應改進產品,這三種效應疊加在一起使得平臺經濟具有集中化趨勢。在這一不斷有公司破產、有人失業的集中化過程中,社會財富從小平臺公司轉移到大平臺公司,從工人轉移到資本家,并且越來越集中于少數平臺公司,集中于少數人手中。聯合國貿易和發展會議(UNCTAD)在《2019 數字經濟報告》(Digital Economy Report 2019)中指出,全球市值最大的20 家公司,其中有40%擁有基于平臺的商業模式,微軟、蘋果、亞馬遜、谷歌、臉書、騰訊和阿里巴巴這七家“超級平臺”占70 家最大數字平臺總市值的三分之二;并且2017 年市值超過1 億美元的平臺公司的總價值估計超過7 萬億美元,比2015年高出67%。(27)簡言之,全球的數字財富集中于極少數國家,如果這一局面得不到改變,那么欠連接國家(Under-Connected Countries)和超數字化國家(Hyper-Digitalized Countries)之間的差距將繼續擴大并加劇不平等。(28)

三、走向數字社會主義

人性是復雜的,既有天使一面也有魔鬼一面。從歷史來看,人性中的善良天使在變強,以至于如斯蒂芬·平克所言人類的暴力呈下降趨勢。(29)但是人性中的魔鬼并不會消失。因此,未來可能不是有自我意識的自主性人工智能滅絕人類而成為地球的新主宰,而是部分人想成為整個人類的主宰而開發運用殺戮性人工智能,從而將人類推到毀滅性的戰爭邊緣。資本主義體系的趨利性,讓迎合人類需求的任何類型人工智能都有可能被開發和生產出來;即便是明令禁止,高額利潤也會推動著人類的冒險行為。關鍵是,如果對部分人類成員不友好的人工智能被生產出來后,其他成員是否有能力去應對?這是人類的遠慮問題。人類的近憂問題是當前世界的不平等極化發展能否得到改變,以及如何改變?當然,遠慮與近憂是相對的,并且關聯在一起。

對于人類的遠慮近憂問題,福山、赫拉利等人分別給出了各自的解決方案。福山的解決方案是政治性的。這一方案就是組成民主政治共同體的成員擁有掌控技術發展的進度與范圍的權力,并通過他們所選舉的代表來執行權力。這實際上是用政治“鎖死”科技。但是從福山的論述背景來看,這個方案并沒有超出資本主義的范圍,即用民主制度去管制資本低估了資本對民主制度的滲透與扭曲。(30)

與福山不同,赫拉利認為人類天生貪婪、愚蠢與殘酷,并且缺乏提升自己的意識,因此他的解決方案不是訴諸政治制度的管制,而是訴諸人類意識的提升。在他看來,如果人類太注重發展人工智能而又不太注重提升自身的意識,那么人工智能有了極大發展之后,可能只會增強人類的“自然愚蠢”。由此,赫拉利如此寫道:“想要避免這種結果,每投入一美元、一分鐘來提升人工智能,就應該同樣投入一美元、一分鐘來提升人類意識。”(31)但是這與其說是一種解決方案,不如說是一種啟蒙式呼吁。

如果說福山的政治解決方案尚且還對人類個體的人性和能力抱有一定信任的話,那么赫拉利幾乎喪失了這份信任,由此前者還寄希望于民主選舉中的那些代表來管制科技發展的進度與范圍,而后者則悲觀地看到人類幾乎沒有投入什么心力來探索自身的心智,而只是一心想著提升網絡連接的速度及大數據算法的效率。但是,這兩人分享的一個共同特點就是放大科技發展與人類發展之間的差距,并且不同程度上忽視了人類與人工智能(機器人)的交互干預及其對彼此的影響。就此而言,韓水法倡導的人工智能時代的人文主義精神可以看作是福山與赫拉利的糾偏:“人工智能時代的人文主義精神就是持續地促進并在可能的情況下籌劃人的發展和進化,借助于日新月異的科學和技術,持續地提高人類自身而使其得到升華。”(32)這一人文主義精神的重要性在于它承認了人類發展的可能性,以及人類借助科技發展力量來提高自身進而與科技發展協同前進的可能性。但停留于這種人文主義精神是不夠的,我們還需要激活社會主義的社會理論資源,構想人工智能時代的數字社會主義及意義。孫偉平晚近具體論述了人工智能發展與共產主義社會之間的內在聯系,即人工智能的快速發展和廣泛應用,智能社會的到來,為馬克思恩格斯所構想的共產主義社會奠定了堅實的物質基礎和技術支持。(33)當然,共產主義社會不會隨著科技的進步自動到來,它的實現有待進行系統的社會變革,其中的關鍵在于建立全體人民當家作主的公有制社會。下面,筆者著重從動力源、所有權結構、分配原則這三方面來構想人工智能時代的社會主義干預,這個干預將導致采取它的數字化社會走向數字社會主義。

(一)數字社會主義的動力源

勞動是人類及社會發展的動力源。在過去,人類先后利用了以牛馬為代表的畜力和以蒸汽機為代表的自然力強化自身的勞動。馬克思注意到伴隨著自動化機器的發展,人類可以從有損健康的、單調重復的勞動領域中解放出來,進入到人類想要的自我實現的那些領域,以及在這個轉變的過程中,財富的基礎與尺度的變化:

在這個轉變中,表現為生產和財富的宏大基石的,既不是人本身完成的直接勞動,也不是人從事勞動的時間,而是對人本身的一般生產力的占有,是人對自然界的了解和通過人作為社會體的存在來對自然界的統治,總之,是社會個人的發展……個性得到自由發展,因此,并不是為了獲得剩余勞動而縮減必要勞動時間,而是直接把社會必要勞動縮減到最低限度,那時,與此相適應,由于給所有人騰出了時間和創造了手段,個人會在藝術、科學等等方面得到發展。(34)

在上面這一段論述中,馬克思已經觸及到了共產主義(社會主義)社會的動力源,即生產和財富的基礎不是人本身完成的直接勞動,也不是從事(物質)生產的勞動時間,而是對人類自身生產力的占有,尤其是人類在藝術、科學等方面的創新能力和綜合能力的發展。在人工智能時代,智能機器人在能動性上遠高于自動化機器,不僅更廣泛地替代人類的體力勞動,也部分地替代人類的腦力勞動,但并不會全面替代人類。由此,在人工智能已經介入人類生活的前提下,人類能力的發展既需要研究人類的復雜性及其可程序化的限度,由此推進作為工具的人工智能的迭代更新;也需要研究社會秩序的變遷及其背后的文化脈絡,以此獲得人類自我訓練之資源。就此而言,人類的發展不僅是認知能力的發展,還是感性能力的發展,而那些不可程序化的激情、頓悟、靈感等人類特有的情感因素將成為人工智能時代的稀缺資源——它們構成了人類的復雜性的不可或缺的一部分。重視這一部分,并將之與人類創新能力、共享能力、團結能力、綜合能力等能力的培養關聯在一起,將為數字社會主義的實現提供相應的動力之源。

當然,這一動力之源既可以為資本主義所應用,也可以為社會主義所應用。因此,教育特別是社會主義教育在人工智能時代尤其必要。誠如馬克思所言,“工人要學會把機器和機器的資本主義應用區別開來,從而學會把自己的攻擊從物質生產資料本身轉向物質生產資料的社會使用形式,是需要時間和經驗的”。(35)當前,伴隨著資本主義生產方式的數字化,機器與機器的資本主義應用的邊界日趨模糊,甚至一體化了,即人工智能既是生產資料(數據)也是資本主義應用形式(算法),因此,必須與時俱進地揭示資本主義的新形式及其不合意性,普及社會主義共享精神教育以及論證社會主義的合意性。這一點就其對人類心智的根本性影響而言構成了數字社會主義的動力之源。

(二)數字社會主義的所有權結構

在馬克思看來,“現今財富的基礎是盜竊他人的勞動時間”(36),并且“以勞動時間作為財富的尺度,這表明財富本身是建立在貧困的基礎上的,而可以自由支配的時間只是在同剩余勞動時間的對立中并且是由于這種對立而存在的,或者說,個人的全部時間都成為勞動時間,從而使個人降到僅僅是工人的地位,使他從屬于勞動”。(37)與此不同,在生產力發展的資本屬性消失之后的新社會中,“因為真正的財富就是所有個人的發達的生產力。那時,財富的尺度決不再是勞動時間,而是可以自由支配的時間”。(38)問題是,21 世紀的世界依然是資本主義主導的世界,在其中,資本的形式也數字化了。在這個數字化過程中,財富的尺度從過去的貨幣轉向現在的數據,人類正遭受歷史上的新一輪“圈地運動”。

與工業革命時期的圈地運動不同,這一輪圈地運動不是對作為生產資料的土地的掠奪,而是對由各種活動產生的數據的掠奪。這一圈占導致數據的極化分布,占據數據分布頂層位置的主要是各大互聯網平臺公司。面對數據分布的集中問題,舍恩伯格(Viktor Mayer-Sch?nberger)和拉姆什(Thomas Ramge)提出了“累進數據共享授權”之建議,即一旦網絡公司的市場份額達到起始閾值,公司就要與同一市場上的其他所有參與者共享其反饋數據的一部分,如果其他參與者提出類似要求的話。累進數據共享授權作為與機器學習系統相關的、市場集中問題的解決方案,其實就是這樣的一個選擇機制,即如果較小的競爭對手可以使用大公司的反饋數據,決策輔助系統的創新就不會只集中在頭部企業,規模較小的公司仍然可以生存。(39)累進數據共享授權一定程度上能夠減緩數據分布的集中化(因而一定程度可以提升市場的創新活力),但是它并不觸及所有權,因此并不能改變數據分布的集中化趨勢,以及基于數字剝削的不平等發展。就此而言,累進數據共享授權理論反映的只是資本主義私有所有權在數字化過程中的一種新要求,而非數字社會主義的公有所有權的理論訴求。

與舍恩伯格和拉姆什的主張不同,森健等人認為數字資本主義已經推動了“從擁有產權到分享使用權”的消費觀念的轉變,由此導致共享經濟的誕生,并且論述了它的可能趨勢——以自由平等交換形式為目的的數字公地。但是如前文所述,森健等人沒有充分注意到作為資本的人工智能,因而共享經濟或數字公地不過是資本在數字時代自我增殖的新形式,它的剝削率比工業時代的剝削率更高,并且加劇了社會財富的不平等發展。(40)就其強調自由平等交換形式這一目的而言,合適的途徑不是任憑數字資本主義自發導致以自由平等交換形式為目的的數字公地,而是強調數字世界中的數據的公共性,推動數據的公有化。相應地,一種可能的數字社會主義所有權制度設計理念是分離數據的所有權、承包權和經營權,實行數據的所有權歸全民所有,其承包權歸地方政府所有,其經營權歸經營者(如各類平臺公司、數據公司等)所有。這一制度設計在形式上類似我國農村土地三權分置的制度安排。(41)這里的“類似”意味著不能將這一制度設計直接等同于土地三權分置制度。

數據和土地是兩種不同的生產要素。土地先于人類而存在,而數據則是人類活動的產物。數據先是人類活動積淀的測量、記錄、文檔等書面形式的數據,而后是經由二進制轉化積累于數字平臺的數據,再然后是人類個體直接在各個數字平臺的在線活動產生的數據。這些數據具有土地所沒有的流動性,它們可以從一個數字平臺轉移到另一個數字平臺,并且即便某個平臺解體,數據也不一定隨之消失,它們可能被其他數字平臺所獲取或者存有備份。由此而言,數據的存在形式在現實性上就是數字平臺。從土地與數據對照的意義上來看,與土地三權分置對應的名稱是數據三權分置,但是鑒于數據的存在形式、流動性等特性,更恰當的名稱是數字平臺三權分置。相比于數據三權分置,數字平臺三權分置既能夠關注數據信息,也能夠關注到前者不能充分關注到的平臺信息。

數字平臺三權分置作為一種數字社會主義所有權制度設計理念的構想,其核心內涵包括兩個相互關聯的方面。一個方面是前文已經論及,即它在數據層面主張全民持有數據所有權、政府持有數據承包權、數字平臺持有數據經營權的產權制度。另一方面是它在平臺方面主張擁有數據經營權的數字平臺可以自主選取與其預期目的相適應的所有權形式。數字平臺三權分置理念就其主張全民持有數據所有權而言,它是社會主義的,因此落實它的那些數字化社會也具有社會主義性質或至少兼容于社會主義社會。

數字平臺三權分置理念順應了數字化進程中數字平臺的所有權與使用權的分離趨勢。當前,幾乎所有的數字內容如軟件、游戲、音樂等的許可協議都聲明數字產品是許可給其購買者使用的,而不是出售給其購買者。這是因為出售在日常生活語境已默認購買者不僅可以使用其購買的產品,也擁有其購買的產品的所有權。與出售不同,許可只是意味著購買者被許可使用其購買的相應產品而非擁有該產品的所有權。 由此而言,遍布人們經濟社會生活諸領域的許可協議與其說重新界定了所有權,不如說是它分離了數字平臺(數字產品)的所有權與使用權。然而,數字平臺三權分置理念蘊含的社會主義性質與平臺公司占有大多數既存數據的現實相抵牾。因為按照許可協議,平臺公司擁有其平臺及其中的數據或數字產品的所有權,而這一所有權的使用方式就其追求資本增殖或利潤最大化而言是資本主義的。

由此而言,推行數據的公有化,會面臨著既得利益者的阻撓。因此,具體的推行方法是因地制宜,比如對于那些數字化才剛剛起步的社會,可以直接通過立法予以確立數字平臺三權分置結構;對于那些數字化已經深度發展了的社會,則依據立法的社會成本而定,或通過經濟上的贖買來解決,抑或通過民主協商確立的合約來解決,等等。在筆者看來,實行數字平臺三權分置,它至少有利于糾正目前存在的三個問題,一是數據的所有權歸于全民所有,能夠有效遏制平臺公司對個人隱私信息的不正當使用,比如它更容易通過立法確立相應的隱私保護法(42);二是數據的承包權歸于地方政府,能夠有效防止數據的集中化分布,有效保障數據價值的公平分配,比如它可以依據其管轄地的網民數量而非平臺公司數量來分有數字稅收總額中的相應份額,由此解決數字經濟將價值創造(Value Creation)與經濟實體(the Physical Presence)相分離所導致的納稅地與價值產生地不一致的問題(43);三是數據的經營權歸于經營者,能夠有效保障數據的市場化使用。(44)

(三)數字社會主義的分配原則

當智能機器人導致大量失業時,應當實行什么樣的分配原則呢?在這個問題上,資本主義者和社會主義者存在諸多分歧,但都比較一致地支持全民基本收入(UBI)。的確,全民基本收入盡管有不同的形式,但其核心內涵大體一致,即每個人(比如每月)都會獲得一張數額固定的支票,它足以支付食物、衣服、交通、社交等確保一個人體面生活所必需的費用。由于全民基本收入作為一種分配原則可以依附于不同的所有權結構。因此,對全民基本收入的考察,需要將之放置在相應的所有權結構之中。

不論對于左翼自由主義者還是右翼自由主義者,全民基本收入都是有吸引力的分配原則。在左翼自由主義者看來,全民基本收入是一項全面的福利計劃,它給每個成年人相同的金額,讓所有人都過上體面生活,讓那些在貧困中掙扎的人解脫出來,且免于任何恥辱標簽。在右翼自由主義者看來,因為全民基本收入是相同的,所以它既不需要那些確定個人需求和計算個人支出的龐大官僚機構,也回避了收入再分配的議題;并且如果全民基本收入剛好夠基本生活費,那么就不一定會消除人們的工作動力。但是,在數據已被密密麻麻的私有權切割的情況之下,支撐全民基本收入的巨量資金難以通過稅收來滿足。因為過高的稅收,會導致公司將其巨額利潤進行國外轉移,而過低的稅收,則無法滿足全民基本收入的資金需求。更重要的是,如前所述,社會財富正在不斷地集中于巨型互聯網平臺,因此不論是新增資本稅(包括對機器人征稅)還是提高原有的資本稅率,都沒有真正觸及巨額利潤過度集中的根本問題,除非直接針對這些巨型互聯網平臺公司。但是,這種針對性的稅收,在資本主義社會,需要通過政治體制來推動,而這種體制卻往往受制于包括這些平臺公司在內的既得利益集團。

作為一種可能的資金解決方案,備受關注的是數據繳稅和新增就業抵稅。數據繳稅相比用貨幣繳稅的優勢在于,數據不是競爭性的,因而它不會被用完,并且與前文論及的累進式數據共享權相結合,可以使得政府、其他公司、非盈利組織利用充分的數據來改善產品、服務乃至創新能力。新增就業抵稅的吸引力在于通過為企業每創造一個就業機會就提供相應稅收抵免的政策激勵,讓自動化成本比人力成本更貴,由此在激烈市場競爭下反過來會刺激實現技術進步的努力,而技術進步又可以帶來更高的成本效率;稅收的抵免結果讓可以自動化的行業變得更加自動化。這一方案,其訴諸的理由和導向的結果都指向數據的共享性與創新的持續性,它作為一種手段,既可以為資本主義社會所用,也可以為別的社會所用。

對于社會主義者,全民基本收入也是一個有吸引力的分配原則。但是在具體論證全民基本收入的吸引力上,社會主義者不同于自由主義者。在社會主義者看來,在數字時代,幾乎每個人都是數字勞動者,他們產生的數據是有價值的;這些有價值的數據,應歸全民所有,而給予每個人以相同份額的全民基本收入是與數據的全民所有這一所有權結構相適應的。因為一個社會的數據的總價值不僅是集成性的,而且只能通過自由市場才能體現出來,因此與之對應的全民基本收入的份額應是多少,只能通過自由市場予以動態地確定。這樣,在一個數字經濟已充分發展的社會主義社會中,在一個實行數字平臺三權分置的數字社會主義社會中,它涉及全體人民的分配原則就是全民基本收入。而全民基本收入的份額,在名義上主要由這三個部分構成:一是直接相關于所有權而獲得的相應收益,它相當于國營的互聯網公司的總紅利的一定量;二是直接相關于承包權而獲得的相應收益,它相當于地方政府把比如無損個人隱私的和/或無損國家安全的數據外包給互聯網公司而獲得的總租金的一定量;三是直接相關于經營權而獲得的相應收益,它相當于對市場上所有互聯網公司征收的總稅收的一定量。

從理論上來看,全民基本收入份額中的第一、二部分構成,是數據全民所有之社會所獨有的(它在數字平臺三權分置中得到清晰的體現),而第三部分構成是一般性的,它是數據全民所有之社會與數據私人所有之社會都享有的。對于第三部分構成的征收方式,它當然也允許用“數據繳稅”和“新增就業抵稅”,但其目的不是擴大數據的共享性(因為數據的全民所有已經制度地實現了這一點,或者說它與數據的全民所有同義反復),而是承認數據的價值性。并且,伴隨著貨幣市場轉向海量數據市場,工作的吸引力主要不在于它是一個可以幫助人們支付生活開銷的工作崗位,而在于它提供了身份、社交圈和歸屬感,以及增強創新的持續性,和作為創新主體的人的獲得感(因為勞動本身就是人的一種需要)。

至此,筆者已經從三個方面闡述了數字化社會主義干預:在動力源方面,數字化社會主義干預主要表現為促使每個人的能力培養朝著強化社會主義信念方向運動;在所有權方面,數字化社會主義干預主要表現為促使數據的所有權結構朝著公有化方向運動。在分配原則方面,不論是已經高度數字化的社會,還是尚處在數字化早期的社會,都可以采取全民基本收入,但是只有與數據公有化相適應的全民基本收入才是數字社會主義的。這一數字化社會主義干預從其后果來看有可能導致人工智能時代數字社會主義的誕生,并且根本上影響數字社會主義的發展方向。

四、結語

總而言之,人工智能的潛在威脅不是它在專業能力上的迅猛發展,而是它的資本主義應用及不平等的極化發展。因此,人類應對這一威脅的正確方式不應是競速統治論所主張的那樣,要追趕人工智能的發展速度。競速統治論的邏輯悖論在于,它一方面看到人工智能的加速發展及其對人類諸多能力的替代,另一方面否認人工智能發展出自我意識的可能性。然而沒有說“不”的能力的人工智能不論怎樣加速發展,都不可能與人類形成競速統治的政治局面,前者充其量是后者的高級數字化工具。應對來自人工智能的威脅的正確方式應是干預人工智能的發展方向,以及人類生活于其中的社會的發展方向。不同的干預會導致不同的后果。就消除不合理的不平等而言,出路之一是進行社會主義干預。這一干預在動力源上強調人類不可程序化的激情、頓悟、靈感等的重要性,施行社會主義共享精神教育;在所有權上主張數據的公有化,建構數字平臺三權分置的所有權制度;在涉及全民的分配原則上主張全民基本收入,理清支撐全民基本收入的資金來源。就此而言,在人工智能時代人類選擇對人工智能進行社會主義干預而非禁止其發展,不僅會導致數字社會主義的誕生,并且會從根本上影響數字社會主義的發展方向。

注釋:

(1) Paul Virilio, Speed and Politics: An Essay on Dromology,Translated by Marc Polizzotti, Semiotext(e), 2006, p.69.

(2) 孫偉平:《人機之間的工作競爭:挑戰與出路——從風靡全球的ChatGPT 談起》,《思想理論教育》2023 年第3 期。

(3) Nick Srnicek and Alex Williams, Inventing the Future:Postcapitalism and a World Without Work, Verso, 2015, p.89.

(4) 在某些方向上的組織演進會使得這種技術替代效應不但不會讓某個人類群體成為“廢棄的剩余”,反而成為人人得以自由發展的技術基礎。

(5)(11) 吳冠軍:《告別“對抗性模型”——關于人工智能的后人類主義思考》,《江海學刊》2020 年第1 期。

(6) Bruno Latour,We Have Never Been Modern, Translated by Catherine Porter, Harvard University Press, 1993, p.55.

(7)(31)[以色列]尤瓦爾·赫拉利:《今日簡史:人類命運大議題》,林俊宏譯,中信出版社2018 年版,第65、65 頁。

(8) 趙汀陽:《人工智能的自我意識何以可能?》,《自然辯證法通訊》2019 年第1 期。

(9) 秦子忠:《人工智能的心智及其限度——人工智能如何產生自我意識?》,《江海學刊》2022 年第3 期。

(10) 王志強:《關于人工智能的政治哲學批判》,《自然辯證法通訊》2019 年第6 期。

(12) 吳冠軍:《速度與智能——人工智能時代的三重哲學反思》,《山東社會科學》2019 年第6 期。

(13) 秦子忠:《人類的復雜性及其程序化的限度——兼評“人類終結論”與“競速統治論”》,《自然辯證法通訊》2021 年第1 期。

(14)[美]侯世達:《哥德爾、艾舍爾、巴赫:集異璧之大成》,嚴勇等譯, 商務印書館2019 年版,第115—136 頁。

(15) 秦子忠:《生存還是毀滅:元宇宙效應的哲學考察》,《閱江學刊》2022 年第3 期。

(16) Daniel Dennett, Facing Up to the Hard Question of Consciousness,Philosophical Transactions of the Royal Society B-Biological Sciences, 2018, 373(1755), pp.1-7.

(17)(39) 秦子忠:《大數據時代的剝削與不正義》,《浙江社會科學》2021 年第12 期。

(18)[以色列]赫拉利:《未來簡史》,林俊宏譯, 中信出版社2017 年版,第286—300 頁。

(19) Bernard Stiegler, States of Shock: Stupidity and Knowledge in the 21st Century, Polity, 2015, p.133.

(20) 吳冠軍:《競速統治與后民主政治——人工智能時代的政治哲學反思》,《當代世界與社會主義》2019 年第6期。

(21)“力不若牛,走不若馬,而牛馬為用,何也?曰:人能群,彼不能群也。人何以能群?曰:分。分何以能行?曰:義。故義以分則和,和則勝物。”(《荀子·王制》)

(22) 參見[美]伊曼紐爾·沃勒斯坦:《現代世界體系》第4 卷,郭方等譯,社會科學文獻出版社2013 年版。

(23) 參見[日]柄谷行人:《世界史的構造》,趙京華譯,中央編譯局出版社2017 年版。

(24)[日]森健、[日]日戶浩之:《數字資本主義》,日本野村綜研(大連)科技有限公司譯,復旦大學出版社2020 年版,第123—148 頁。

(25) Gerry Canavan, Capital as Artificial Intelligence,Journal of American Studies, 2015, 49(4), pp.685-709.

(26) 方莉:《數字勞動與數字資本主義剝削的發生、實現及其批判》,《國外社會科學》2020 年第4 期。

(27) United Nations, Digital Economy Report 2019.這是聯合國貿易與發展會議印發的一份可以開放獲取的聯合國出版物。國內互聯網上已有中文版《2019 年數字經濟報告》。但英文版、中文版都為電子文件。

(28) 欠連接國家和超數字化國家是聯合國貿易和發展會議在《2019 數字經濟報告》中提出的一組概念,用以反映國家間持續拉大的數字鴻溝。欠連接國家和超數字化國家在互聯網接入速度、網絡基礎設施建設、互聯網及數字化技術應用等方面表現出巨大的差距。這兩個概念的提出旨在呼吁全球范圍內加強數字化和互聯網技術的普及,促進數字平等,并幫助欠連接國家縮小數字鴻溝,實現可持續發展和包容性增長。

(29) 參見[美]斯蒂芬·平克:《人性中的善良天使:暴力為什么減少》,安雯譯,中信出版社2019 年版。

(30) Francis Fukuyama, Our Posthuman Future: Consequences of the Biotechnology Revolution, Picador, 2003, pp.181-194.

(32) 韓水法:《人工智能時代的人文主義》,《中國社會科學》2019 年第6 期。

(33) 孫偉平:《智能社會:共產主義社會建設的基礎和條件》,《馬克思主義研究》2021 年第1 期。

(34)(36)(37)(38) 《馬克思恩格斯文集》第8卷,人民出版社2009 年版,第196—197、196、200、200 頁。

(35) 馬克思:《資本論》第1 卷,人民出版社2004 年版,第493 頁。

(39)[奧]維克托·邁爾-舍恩伯格、[德]托馬斯·拉姆什:《數據資本時代》,李曉霞、周濤譯,中信出版社2018 年版,第169 頁。

(41) 朱冬亮:《農民與土地漸行漸遠——土地流轉與“三權分置”制度實踐》,《中國社會科學》2020 年第7 期。[美]亞倫·普贊諾斯基、[美]杰森·舒爾茨:《所有權的終結:數字時代的財產保護》,趙精武譯,北京大學出版社2022年版,第91—92 頁。

(42)[荷蘭]瑪農·奧斯特芬:《數據的邊界:隱私與個人數據保護》,曹博譯,上海人民出版社2020 年版,第56 頁。

(43) 這個問題在一個社會之內,表現為跨省的逃避稅問題;在國際社會,則表現為跨境的逃避稅問題。參見茅孝軍:《從臨時措施到貿易保護: 歐盟“數字稅”的興起、演化與省思》,《歐洲研究》2019 年第6 期。

(44) 杜振華、茶洪旺:《數據產權制度的現實考量》,《重慶社會科學》2016 年第8 期;童楠楠、竇悅、劉釗因:《中國特色數據要素產權制度體系構建研究》,《電子政務》2022 年第2 期。

猜你喜歡
人工智能人類
我校新增“人工智能”本科專業
顫抖吧,人類
哈哈畫報(2022年4期)2022-04-19 11:11:50
人類能否一覺到未來?
人類會成長起來嗎?
英語文摘(2021年2期)2021-07-22 07:56:54
人類第一殺手
好孩子畫報(2020年5期)2020-06-27 14:08:05
1100億個人類的清明
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能與就業
IT經理世界(2018年20期)2018-10-24 02:38:24
數讀人工智能
小康(2017年16期)2017-06-07 09:00:59
下一幕,人工智能!
南風窗(2016年19期)2016-09-21 16:51:29
主站蜘蛛池模板: 国产高清在线丝袜精品一区| 欧美精品1区2区| 久久免费视频播放| 2021国产在线视频| 欧美日韩在线亚洲国产人| 中国毛片网| 久久成人18免费| 成人在线综合| 国产成人精品第一区二区| 亚洲日韩欧美在线观看| 国产在线一区视频| 久久综合九色综合97婷婷| 青青草原国产av福利网站 | 亚洲AⅤ无码日韩AV无码网站| 亚洲综合片| 在线观看免费AV网| 国产手机在线观看| 91精品国产综合久久不国产大片| 色综合天天娱乐综合网| 欧美第一页在线| 色偷偷一区| 91在线激情在线观看| 欧美黑人欧美精品刺激| 中文字幕亚洲无线码一区女同| 欧美成人午夜在线全部免费| 欧美a在线| 性喷潮久久久久久久久| 亚洲天天更新| 国产午夜一级毛片| 综合五月天网| 亚洲国产高清精品线久久| 91在线高清视频| 精品视频一区二区三区在线播| 日本午夜精品一本在线观看 | 国产美女无遮挡免费视频网站 | 啦啦啦网站在线观看a毛片| 美女国产在线| 一区二区三区高清视频国产女人| 欧美啪啪网| 国产毛片不卡| 极品国产一区二区三区| 在线无码av一区二区三区| 99热最新网址| 91亚瑟视频| 国产亚洲欧美在线中文bt天堂| 午夜a视频| 欧美性猛交一区二区三区| 啪啪啪亚洲无码| 欧美激情第一区| 内射人妻无码色AV天堂| 青草视频网站在线观看| 婷婷激情五月网| 性网站在线观看| 嫩草国产在线| 区国产精品搜索视频| 丰满少妇αⅴ无码区| 亚洲精品在线观看91| 亚洲精品777| 中文字幕佐山爱一区二区免费| 蜜桃视频一区二区三区| 国产精品手机在线播放| 成年看免费观看视频拍拍| 欧美国产综合视频| 欧美中文一区| 亚洲国产日韩一区| 红杏AV在线无码| 69精品在线观看| 欧美综合一区二区三区| 国产超碰一区二区三区| 波多野结衣在线一区二区| 国产精品亚洲αv天堂无码| 日韩欧美国产精品| 亚洲精品无码不卡在线播放| 成人国产小视频| 又爽又大又光又色的午夜视频| 免费啪啪网址| 婷婷激情亚洲| 五月天久久婷婷| 看国产毛片| 亚洲无码免费黄色网址| 国产成人高清亚洲一区久久| 国产成人a毛片在线|