未來之法

劉哲

最近看了《未來簡史》和《真實的人類》，確實有一種不寒而栗的感覺。當人工智能獲得統治地位之后，人類向何處去？

對此，我問過馮象老師，如果人工智能獲得統治地位之后，那未來的法律豈不是算法？馮老師說：很可能就是。

對于赫拉利來說，生物體與機器的區別不過就是生化算法與電子算法的區別，不同社會制度之間的本質區別也就是集約算法和分散算法的區別。

搞了幾年公訴信息化，對此有點感受。法律、訴訟規則再厲害，都沒有統一辦案系統厲害，因為它絕對剛性，系統對流程怎么規定的，你就只能怎么操作，模版怎么寫，很多人都會直接照辦。個別模版有誤，就會產生批量性錯誤。流程永遠是剛性的，過不去就過不去，沒有這個流程，很多承辦人就不會辦案子了。到底是應該遵守法律還是應該遵守流程？在系統算法面前，只有唯一的答案。這就是算法的力量。

比如說，修改后的訴訟規則取消了公安機關撤回移送審查起訴的規定，但由于系統還留有相應流程和文書，還有部分人會照舊處理。再比如，網約車新規出臺之后，先不說是否合理，事實上很難執行，因為平臺沒有做出相應調整。只要平臺調整，分分鐘就搞定。

法律與算法已經開始了較量。

我曾經說過，辦案系統并不僅僅是工具，它就是規則本身。它是精細化的、具體化的、絕對剛性的規則，因為為一個個案修改算法幾乎是不可能的，個別根據授權進行的信息調整其實也是算法的一部分。

最近很火的大數據，比如量刑系統，如果系統基于幾千萬份判決算出一個量刑參考建議，你敢不執行？你想知道其中的算法過程么，那你將永遠別想弄明白，因為這已經遠遠超越了你的認知能力。你想超越這個算法建議進行量刑，那算法一定會要求你進行詳細說明，在這種情況下如果上級法院給你改了，你就有的瞧了。所以在算法面前最好乖乖的，你按算法，上級法院也按算法，大家相安無事。即使錯了，也是算法錯了。目前，檢察機關希望研發的量刑建議系統可能也將面臨這個問題。

據推測，無人駕駛普及以后，可能會禁止人類司機上路，因為與人工智能相比人類具有更大的不確定性，容易受情緒、性格等因素影響。都是人工智能，馬路跟火車道差不多，偶爾可能會有系統故障，但幾乎不會有擁堵和交通事故。

目前，司法機關要進一步人工智能化，智慧法院、智慧公訴，輕微案件自動生成審查報告，自動生成起訴書、判決書。如果這樣的話，是否可以麻煩將危險駕駛的人類直接送到監獄，因為這個路程中，刑期已經計算好了，在路上可以自動宣判。

哦，對了。不允許人類司機上路的。我說的其實就是那些違法上路的司機，而不是酒駕的司機。在未來，只要是人類司機，不管你喝不喝酒，都是危險駕駛。是否喝酒對人工智能來說沒有本質區別。人類帶來的問題將是因為增加不確定性而容易導致交通人工智能系統過載，造成系統癱瘓，影響系統的穩定性將成為重罪。因為系統的穩定是社會穩定的基石，以后的維穩工作主要是維護系統的穩定。

赫拉利說了，大多數人類個體將對社會系統失去意義。

誰有意義呢？

就是那些制造算法的人。這些人就是赫拉利說的神人。

這些人有沒有腦機接口，是否通過基因編輯等進行生化算法改良，我不知道。總之，他們還沒有被人工智能代替，他們還要為人工智能編制核心程序。他們的創造性，人工智能還無法通過機器學習的方式獲得。

他們編制的算法不是在驅動幾臺機器，他們將通過人工智能驅動整個社會的運轉。

這就是未來之法。

傳統意義的法律是規范人類行為，是社會規則的基礎。總體來看，法的進化過程是越來越深入的融入社會生活進程，從漢謨拉比法典到羅馬法，從宗教法則到拿破侖法典，從商君之法到大清刑律，從判例法到日益繁多的成文法，從國內法、海商法到國際法，法律變得越來越無孔不入。急劇變化的社會在加速推動法律的演化，很多傳統社會能夠容許的風險，在現代社會已經轉化為犯罪行為，法律的邊界在不斷膨脹。但即使如此，法律也只是社會規則的一部分，很多還要依靠倫理、道德、習俗、文化，甚至生態法則來約束。這些都是人類社會自然演進的產物。

但是未來之法將與這些都不相同，它將直接將技術規則與行為規范合二為一。將由神人創制底層算法，由人工智能自行完善具體算法，由具體算法管理社會。是的，我們的法律實際上就是數學規則。它除了物理定律管不了，將規范人類的一切行為。看看我們周邊的智能化應用，你的自由選擇還有多少。

這一天是否會到來？物科學、人工智能的很多趨勢表明，這很有可能成為現實。對了，我們的自由意志哪去了，我們的意識呢？根據赫拉利的分析，這些就是生化算法。所謂的內心聲音只是神經元的放電反映。所謂的自由意志，只是一個幻覺。就是說生命與非生命并沒有本質的區別，如果有的話只是算法不同。

所謂科技驅動未來，其實驅動的是人類的命運。沒有誰是不能替代的，包括人類自身。法律是人類行為的準則，但如果人類只聽人工智能的，那法律只規范人工智能就好了，所以未來的法律很有可能就是一堆算法。

當然這些都只是對未來的假設，眼下算法還遠遠不能替代人，但可以很大程度上將人類從重復智力勞動中解放出來，就像機械將人從重復體力勞動中解放出來一樣，這是人類生產力的第二次解放。其深遠影響可能會遠遠超過第一次解放運動。這也是人類進化的必由之路，也就是赫拉利說的智人通往神人之路。因此，今年政法工作格外重視科技發展，某種程度上說2017年應該是中國科技司法的元年。這也不奇怪，因為人工智能即將迎來爆發期，我們也是跟上世界潮流了，難怪《未來簡史》中文版出的這么快。

人工智能之于司法就是一個大風口。雷軍說：只要站在風口，豬也能飛起來。難怪很多奇奇怪怪的人也在談司法現代化，各種大數據，各種智能，各種術語，拿出各種炫酷圖表，各種看不懂……

風要起了。為避免以后的凌亂，有必要說幾句：

不要忘了，人才是互聯網的第一維度。這里的人，是每個人，至少是大多數人，而不是個別人。當你拿出各種數據說有用的時候，不要忘了你在說對誰有用。如果互聯網只是服務領導決策的工具，那它永遠做不大。

智慧司法的目的是為了節省人力，而不是費力、吃力，否則就是浪費司法資源，必須從服務的角度考慮問題。

智慧司法的背后是邏輯。必須要先想清楚，才能干明白。必須要有完整的解決方案，切忌盲目上馬，司法現代化要避免搞形象工程，否則同樣是勞民傷財。

智慧司法的目標應該是人的提升。很多算法路徑是為了實現傻瓜系統，力圖打造一鍵判決什么的。什么起訴書、判決書自動生成，證據材料自動審查判斷或者參考什么的。有些是不錯的，可以省卻一些重復勞動。但是這隱藏了兩個可怕的隱患：一是算法錯誤怎么辦；二是就算算法錯了你也不知道怎么錯的。即使是概率性的，比如說60%的相似案件都判了。但是我們不禁要問，這個相似的度有多大，如何判斷？這個數據樣本的采集是否具備代表性和科學性，由誰判斷？如果我們盲目相信數據，很容易被帶進溝里。當我們抽取掉案件的細節而進行歸類的時候，我們也抽取掉了案件的語境。靠人不如靠己，在利用輔助辦案系統的時候，你要進一步提升自己的辦案能力和識別能力，才能判斷出哪些是人工智能的誤差，否則這個誤差就會轉變為冤假錯案，而且可能是批量的。這樣是不是更累？但是相比于省掉的重復勞動，還好吧。只是我們必須牢記一點，在機器進化的同時我們要先行加速進化，否則就會從依賴機器變成機器的奴隸。也正因此，開發辦案輔助型系統的同時，也要加速開發能力驅動型的系統，比如北京的出庭管理系統。

大數據不是萬能的，不要過高估計目前人工智能的能力，不要拜數據教。目前的人工智能還處于較低水平，遠沒有實現對自然語言的真正理解，更不要說司法應用。司法不僅要理解法，還要理解人。司法不是機械的法律要件適配，三段論判斷，它需要對現實生活的深刻洞察和人性的深度理解，才能做出符合法律精神的判斷。大數據能夠比較類似的案例，但是它一定會過濾掉那些不相似的、看似不重要的細節，而它們有可能至關重要。算法畢竟是人算出來的，算法設計者的局限性就是這個系統的局限性。而同時兼備豐富司法經驗和高超技術研發能力的人幾乎沒有，如果兩類人互相配合，同樣可能會發生溝通、理解上的差異，因此系統很難完美，人工智能自我學習能力也有限。因此，不要不著邊際的提出系統開發需求，看起來高大上的系統可能存在非常嚴重的隱患。這個隱患由于帶有技術性，因而有著很大的迷惑性，將很難為外行察覺，但是結果將是災難性的。

智慧司法不僅是科技驅動司法，更是創新驅動司法，更是科學思維驅動公訴，是模式化的升級，而不僅僅是科技外掛。未來之法絕不僅僅是算法說了算，最終依靠的仍然是人。

編輯：黃靈 yeshzhwu@foxmail.com