2021-10-20 11:12:24
作者：馬長山，華東政法大學教授、數(shù)字法治研究院院長、博士生導師、《華東政法大學學報》主編。
當今世界正在經(jīng)歷的信息革命，推動著從桌面互聯(lián)網(wǎng)到移動互聯(lián)網(wǎng)、再到智能互聯(lián)網(wǎng)的飛躍發(fā)展，引發(fā)了包括價值觀念、生產(chǎn)方式、生活方式、社會關系、社會秩序等在內(nèi)的全方位重大變革，甚至是顛覆性替代。從法學角度來看這場信息革命，現(xiàn)有的法律制度面臨著日益頻繁的“破窗性”挑戰(zhàn)和“創(chuàng)造性破壞”。在一定意義上，這已不再是應對新問題、新挑戰(zhàn)、新領域那么簡單，而是一場涵蓋法學理論、規(guī)范制度及司法實踐的“法律革命”和升級轉(zhuǎn)型，需要認真對待和有效回應。
一、法律制度面臨的“破窗性”挑戰(zhàn)
智能互聯(lián)網(wǎng)是基于物聯(lián)網(wǎng)技術和智能平臺等載體，在智能終端、人、云端服務之間進行信息采集、處理、分析、應用的智能化網(wǎng)絡，具有高速移動、大數(shù)據(jù)分析和挖掘、智能感應與應用的綜合能力。它催生了新型經(jīng)濟關系和社會關系，進而產(chǎn)生了革命性的后果。
首先，雙層空間、虛實同構。縱觀人類發(fā)展史，每次重大的社會革命都會對人類生活產(chǎn)生深刻的、乃至顛覆性的影響。但早前的農(nóng)業(yè)革命和工業(yè)革命，在根本上乃是通過技術工具來大幅提升人的自然活動能力和范圍，自古以來人類所賴以存活的、天然給定的物理空間并未因其發(fā)生改變。而正在發(fā)生的信息革命，則徹底打破了這一狀態(tài)。它不僅使人類在既有物理空間中的活動能力和范圍得到了空前提升與拓展，還創(chuàng)造出一個天然給定之外的無限延展、異常豐富、能量無際的虛擬電子空間。在這個目前尚難以準確描述的扁平化、自由化空間之中，人們盡情體驗著即時通聯(lián)全球的身份流動、場景模擬、網(wǎng)絡表達、匿名交友、快捷購銷、虛擬娛樂、智能服務等，以至于早期的網(wǎng)絡自由主義者浪漫地宣稱：“我們正在建設的全球社會空間，將獨立于你們想對我們進行的專制統(tǒng)治”，“你們的財產(chǎn)、表達、身份、活動和條件的法律概念不適合我們。這些概念建立在物質(zhì)基礎上，而我們這里沒有什么物質(zhì)”。由此，物理世界—數(shù)字世界、現(xiàn)實生活—虛擬生活、物理空間—電子空間的雙重構架得以形成，二者相互影響、相互嵌入、相互塑造，形成了虛實同構的政治、經(jīng)濟、文化和日常生活，基于線上/線下融合發(fā)展的眾多創(chuàng)新業(yè)態(tài)和創(chuàng)新商業(yè)模式也紛紛涌現(xiàn)。這深刻地改變了人們的生產(chǎn)、生活、行為方式和社會關系，給經(jīng)濟發(fā)展、公共治理和社會秩序既帶來了新機遇、新問題，也帶來了前所未有的挑戰(zhàn)。
其次，人機共處、智慧互動。隨著人工智能技術的快速發(fā)展，智能機器人開始步入人們的現(xiàn)實生活。它并非是對以往機械自動化生產(chǎn)的簡單升級，而是通過深度學習和訓練來進行“類人化”的智慧工作。換言之，當今時代的機器“活”了，人機之間就不再是簡單的“人與工具”的關系，而是伴有智慧化的互動情境。雖然它還處于初級發(fā)展階段，只是替代簡單的、重復性的人工操作，但由于各科技強國都在加大對人工智能的研發(fā)和競爭布局，在可見的未來，服務機器人、醫(yī)療機器人、投顧機器人、陪伴機器人、情侶機器人將會大量涌現(xiàn)，并承擔起勞動替代、任務合作、智能決策、“情感”互動等角色，人機共處隨之成為生產(chǎn)生活關系的常態(tài)。這樣，“當機器人變得足夠復雜的時候，它們既不是人類的仆人，也不是人類的主人，而是人類的伙伴”，智能互聯(lián)網(wǎng)也會成為“一個人機混合體，人的很多行為和認知與機器融合在一起，這時候我們就需要在人機混合的‘系統(tǒng)即社會’中制定規(guī)范”。這必然會引發(fā)關于主體身份、權利義務關系和法律責任等方面的重大法律變革與秩序重建。
再次，算法主導、數(shù)字生態(tài)。在智能互聯(lián)網(wǎng)時代，人們面對著海量的基本數(shù)據(jù)、交易數(shù)據(jù)、觀察數(shù)據(jù)和動態(tài)數(shù)據(jù)，“對這些數(shù)據(jù)進行系統(tǒng)地加工并且正確地闡釋，使得人們可以通過這些數(shù)據(jù)對個人或者群體及其行為進行深入的推斷”。這將形成以算法為核心、以信息（包括知識和數(shù)據(jù)）為資源、以網(wǎng)絡為基礎平臺的全新經(jīng)濟形態(tài)，開創(chuàng)平臺化、數(shù)據(jù)化、普惠化發(fā)展新模式，促進經(jīng)濟體量的爆發(fā)式增長。對個人而言，“網(wǎng)上的個人信息全方位覆蓋了你從搖籃到墳墓的全部私人生活，慢慢地積累所有數(shù)據(jù)，直至在計算機數(shù)據(jù)庫中形成一個‘人’”。人們不得不置身于大數(shù)據(jù)的環(huán)境來進行信息分享和使用，以適應信息化、智能化、數(shù)字化的當代生活，“用失去隱私、喪失個人生活和失去批判精神的代價換取可預測性、安全性，以及人類壽命的延長”。對于社會而言，“數(shù)字技術掀起了一場革命，讓企業(yè)家們利用光纖在一個不受管轄的世界里憑空建立起他們的王國。他們已經(jīng)向政府和它的傳統(tǒng)權威發(fā)起了挑戰(zhàn)。這種挑戰(zhàn)不是故意的，完全是技術進步的偶然結(jié)果”。其中，數(shù)據(jù)和信息成為重要的新型資產(chǎn)，而算法也從最初的“提煉自這個世界，來源于這個世界”，轉(zhuǎn)向“開始塑造這個世界”。這就形成了涵攝政治、經(jīng)濟、文化與社會發(fā)展的數(shù)字化生態(tài)，塑造了以數(shù)據(jù)和算法為基礎的新型法權關系，實現(xiàn)對人類社會秩序的深度變革與重構。
上述三方面重大而深刻的社會變革，使得新型經(jīng)濟關系和社會關系迅速涌現(xiàn)，并對傳統(tǒng)生產(chǎn)生活關系產(chǎn)生了很大程度的替代、覆蓋甚至顛覆。這將給法學理論、法律制度和司法體系帶來極大沖擊和“破窗性”挑戰(zhàn)。
其一，既有法律規(guī)范難以有效涵蓋和調(diào)整新的法益。隨著智能互聯(lián)網(wǎng)的飛速發(fā)展，淘寶平臺、P2P、滴滴打車、分時度假等各種新業(yè)態(tài)、新模式噴涌而出。于是，“產(chǎn)品與服務、分銷體系、定價方法以及廣告與促銷模式均從原本集群、聚合式的商業(yè)權力體系中剝離出來，放棄滿足各類需求的經(jīng)濟結(jié)構，轉(zhuǎn)而向小型、分化、具體及定制平臺進行一對一式運營”，經(jīng)濟發(fā)展業(yè)態(tài)開始全面邁向去中心化的分布式升級，呈現(xiàn)出指數(shù)級的巨大范式轉(zhuǎn)換。從開車到股票交易、再到公司人員配置等一些列重大決策權，正在“從人手中轉(zhuǎn)移到算法手中”。掌握了數(shù)據(jù)就意味著掌握了資本和財富，掌握了算法就意味著掌握了話語權和規(guī)制權。數(shù)據(jù)和算法已成為智能互聯(lián)網(wǎng)時代的重要生產(chǎn)要素，進而孕育了新型的生產(chǎn)力和生產(chǎn)關系。這不僅使得現(xiàn)代性的“理性人”轉(zhuǎn)化成依托數(shù)據(jù)挖掘的可計算的“微粒人”，并“將會在這個數(shù)字和程序算法的世界里發(fā)展出一種新的人性形態(tài)”；同時，諸如虛擬財產(chǎn)、虛擬貨幣、智能合約、數(shù)據(jù)權利、智能機器人“行為”、算法黑箱等，形成了前所未有的利益關系和權利義務構架。與以往社會變革的一個重大不同是，它們涌現(xiàn)速度快、顛覆性強、復制度高、連鎖擴張勢頭迅猛，因此，這并非某一領域的、某一行業(yè)的常速發(fā)展，而是呈現(xiàn)出全面的、深度的、爆發(fā)式的增長。面對這些新生事物、新生關系、新生法益，既有的法律概念、規(guī)則和原則難以對其予以有效涵蓋，也難以對其做出及時有效的規(guī)制調(diào)整。即便通過修改法律條款、擴張性解釋或者類比適用，也會遭遇捉襟見肘的困境。立基于工商業(yè)革命的現(xiàn)代性法律，在當下雙重空間、人機共處、算法主導的信息革命面前遭遇了嚴重的危機，需要適時予以變革甚至重構。
其二，既有規(guī)則邏輯的解釋力日顯困難。法律并非抽象的機械規(guī)則，而是承載著一定的社會價值，反映著人們的行為規(guī)律和生活經(jīng)驗。因此，它所形成的規(guī)則邏輯才對規(guī)制過程及其后果具有正當合理的解釋力和適用性，從而獲得社會認同并產(chǎn)生公信力。當今法律體系是在工商業(yè)革命進程中不斷發(fā)展而來的，當它遭遇智能互聯(lián)網(wǎng)所帶來的雙層空間、人機共處和算法主導的生活場景時，必然會出現(xiàn)某些難以適應的困境。
在民商法領域，數(shù)據(jù)資源日益成為重要生產(chǎn)要素和社會財富，華為與騰訊、阿里和順豐等企業(yè)巨頭之間的數(shù)據(jù)之戰(zhàn)不斷上演，但數(shù)據(jù)和信息的性質(zhì)、分類、權屬、使用規(guī)則、法律責任等，卻難以在現(xiàn)有民商法理論和規(guī)則中獲得有效說明。司法實踐中則更多采取行為保護（不正當競爭）或者法益保護（商業(yè)秘密）而非數(shù)據(jù)財產(chǎn)（權利）保護的進路。然而，即便是號稱史上信息保護最嚴禁令的歐盟《一般數(shù)據(jù)保護條例》（GDPR），也在維護傳統(tǒng)權利觀念和信息安全的同時增設了刪除權（被遺忘權）、可攜帶權、免受自動化決策權（數(shù)據(jù)畫像）、訪問權等新型權利，不得不去順應新的數(shù)字經(jīng)濟生態(tài)。同樣，智能合約的代碼書寫、不可更改、自動執(zhí)行等特征，使得要約和承諾的理論與規(guī)則邏輯難以沿用，也難以對其作出合理闡釋。有學者指出，“數(shù)字化經(jīng)營的產(chǎn)品則幾乎具有信息的量子屬性，無形，無法量化，可以永久性復制，永遠在轉(zhuǎn)換過程中；似乎沒有幾種（如果有的話）常見的實體商務的規(guī)則可以實際運用于此”。這需要探索反映數(shù)字經(jīng)濟發(fā)展規(guī)律的新理論和新規(guī)則。
在刑事法領域，快播案被視為刑法介入網(wǎng)絡平臺規(guī)制的典型案例。從技術上說，快播是在P2P模式取代了C\S模式（客戶\服務器）后所出現(xiàn)的去中心化的互動共享機制。該案一審判決和二審裁定雖然都區(qū)分了P2P共享與P2P緩存，卻未能進行分別評價，特別是對P2P共享的中立性未予考量。國家對舊商業(yè)模式和舊法律的不恰當依賴，難免會導致“寒蟬效應”。在更多的個案中，由于往往是按照傳統(tǒng)刑法的既有理論和規(guī)則邏輯來規(guī)制互聯(lián)網(wǎng)中立行為，其解釋力和說服力亦明顯不足。此外，諸如非法侵入計算機信息系統(tǒng)罪，非法獲取計算機信息系統(tǒng)數(shù)據(jù)、非法控制計算機信息系統(tǒng)罪，提供侵入、非法控制計算機信息系統(tǒng)程序、工具罪，破壞計算機信息系統(tǒng)罪等，也基本上是按照物理空間思維來“外在化”地籠統(tǒng)設定犯罪構成，并不是以數(shù)據(jù)信息屬性和智能互聯(lián)網(wǎng)的運行邏輯來“內(nèi)在化”地作出細分，如盜竊游戲裝備等虛擬財產(chǎn)犯罪只能被認定為計算機領域的犯罪。這種規(guī)則邏輯難以對竊取數(shù)據(jù)信息、侵犯虛擬財產(chǎn)、刷單炒信等行為實施有效規(guī)制和處罰。
在行政法領域，“平臺經(jīng)濟”的崛起造就了全新的市場主體——平臺企業(yè)。企業(yè)通過接入平臺可以向消費者提供“面對面”的直接服務，體現(xiàn)著參與性、分享性和普惠性。一方面，智能互聯(lián)網(wǎng)帶有明顯的自由化、扁平化和去中心化的傾向，呈現(xiàn)出分散的大眾和“微粒化”的消費者；另一方面，蘋果、谷歌、微軟等平臺公司在“贏者通吃”的商業(yè)生態(tài)下，塑造了復合式、龐大“多環(huán)狀生態(tài)圈”和覆蓋式發(fā)展，形成了“要么利用平臺，要么就被平臺消滅”的發(fā)展態(tài)勢，進而又形成了平臺的“再中心化”。它們基于業(yè)態(tài)屬性和運營需要，本身就擁有對平臺市場營銷秩序的自律管理權，而國家由于無暇、無力監(jiān)管龐大多變、技術性強的平臺交易，又以法律法規(guī)或規(guī)章形式來賦予它們審查管理權（審查管理義務）。例如，刑法第286條設定的“拒不履行網(wǎng)絡安全管理義務罪”以及網(wǎng)絡安全法、反恐怖主義法、《關于加強網(wǎng)絡信息保護的決定》《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》《計算機信息網(wǎng)絡國際聯(lián)網(wǎng)安全保護管理辦法》等法律法規(guī)和政府部門規(guī)章所要求的平臺實名認證、信息審查、配合執(zhí)法等管理權（監(jiān)管義務），其中就包括制定平臺規(guī)則、處罰平臺違規(guī)行為、解決平臺糾紛等“準立法”“準執(zhí)法”和“準司法”權力。這種具有準公權力的平臺橫亙在政府與市場之間，形成了由分散的大眾、多元的電商、集中的平臺、實施負面清單制的國家所組成的多方博弈結(jié)構，這無疑對政府干預與市場自律的傳統(tǒng)構架帶來巨大的沖擊，行政法理念、原則和規(guī)制方式也隨之遭遇挑戰(zhàn)。此外，“淘寶小二叫板工商總局”等事件中關于假貨是線上問題還是線下問題、政府監(jiān)管責任還是淘寶打假責任的爭論，也凸顯出行政法理論與規(guī)制邏輯遇到的全新難題。
其三，既有司法解紛機制遭遇明顯障礙。智能互聯(lián)網(wǎng)時代對司法制度形成的沖擊，以互聯(lián)網(wǎng)領域民事糾紛和刑事案件最為典型，傳統(tǒng)的級別管轄和地域管轄出現(xiàn)失靈，迫使我們不得不重新思考網(wǎng)絡空間的法律效力。同時，互聯(lián)網(wǎng)犯罪的智能化、層級化、碎片化，使建立在傳統(tǒng)地域和級別管轄基礎上的犯罪偵破體系也難以適應，網(wǎng)絡詐騙等犯罪的偵破率很低、成本很高。而剛剛生效的歐盟《一般數(shù)據(jù)保護條例》（GDPR），通過其屬人化的數(shù)據(jù)保護設定，則突破了以往在物理空間的主權管轄范圍，實現(xiàn)了在虛擬空間的屬人性擴張，國際司法的許多制度設計必然會面臨挑戰(zhàn)。目前，我國雖然在杭州建立了互聯(lián)網(wǎng)法院，但與海事法院、知識產(chǎn)權法院等不同，它沒有自己的體系和清晰職責，在管轄范圍、審級程序、案件審理、裁判執(zhí)行等方面，也有較多的問題需要解決。
總之，這場信息革命給人類帶來了超過以往任何時代的想象與創(chuàng)造空間，它將使我們都成為一個被算法所定義的“數(shù)據(jù)人”。在這里，“人類變成了制定規(guī)則的上帝，所有伴隨人類進化歷程中的既定經(jīng)驗與認知沉淀將遭遇顛覆性挑戰(zhàn)”。對于法律制度而言，盡管穩(wěn)定是應該固守的本分，但面對瞬息萬變、顛覆創(chuàng)新的智能互聯(lián)網(wǎng)的變革發(fā)展，容不得我們“守成待斃”。這誠如霍姆斯所言，“在法律的故紙堆里皓首窮經(jīng)之人或許眼下大行其道，運用統(tǒng)計學之人以及經(jīng)濟學的行家里手則引領未來”。
二、深度法律變革的三個主要方向
智能互聯(lián)網(wǎng)時代的深度法律變革，是一個沒有預設藍圖和結(jié)果的探索過程，但這并不表明它混沌無序；相反，它呈現(xiàn)了從工業(yè)社會邁向信息社會的制度轉(zhuǎn)型升級的趨向。
（一）法律價值上的深度變革
法律價值是其所處時代的社會價值觀的映射，為法律規(guī)則的制定和運行提供著必要的價值指引。隨著信息革命的到來，法律價值也必然會面臨深度變革，特別是數(shù)據(jù)正義觀、代碼正義觀和算法正義觀將逐漸走上前臺，成為現(xiàn)代性正義價值“家族”的新面孔。
1.數(shù)據(jù)正義觀
如今，人們不僅每天都要面對海量的信息瀏覽和數(shù)據(jù)應用，而且每個人的一言一行也會在網(wǎng)絡上不斷生成數(shù)據(jù)，數(shù)據(jù)正義問題隨之凸顯出來。
其一，數(shù)據(jù)的公平占有與合理使用。在大數(shù)據(jù)時代，原始數(shù)據(jù)生產(chǎn)、加工和使用的過程幾乎同步發(fā)生，且流程復雜。然而，“作為數(shù)據(jù)生產(chǎn)者和使用者參與‘大數(shù)據(jù)基本循環(huán)’的普通公民，對于這里所使用的信息技術基礎設施既無法把握又無法施加影響”，常常處于“所有的數(shù)據(jù)都由我們自身產(chǎn)生，但所有權卻并不歸屬于我們”的尷尬境遇之中，甚至還會出現(xiàn)數(shù)據(jù)階層分化和數(shù)字鴻溝。近年來出現(xiàn)的“大數(shù)據(jù)殺熟”現(xiàn)象，再次向人們提出了警示。實踐中，主要是商家和政府在運用數(shù)據(jù)挖掘技術來實施對原始數(shù)據(jù)的抓取、整理、分類、匹配和賦值，并據(jù)此為客戶設計和提供相應的產(chǎn)品與服務，或者建立起規(guī)范新技術的社會管理模式。此時，就會形成基于數(shù)據(jù)資源的利益關系和社會關系。“如果要避免價值和權力落到少數(shù)人手中，我們就必須設法平衡數(shù)字平臺（包括行業(yè)平臺）的效益與風險，確保其開放性，并為協(xié)作式創(chuàng)新提供機會。”因此，在數(shù)據(jù)原生者、衍生者、交易者、使用者等角色之間，誰是這些數(shù)據(jù)權利的主體、數(shù)據(jù)權利義務如何分配、如何公平占有數(shù)據(jù)和抑制數(shù)據(jù)壟斷、如何合理使用數(shù)據(jù)、數(shù)據(jù)權利和個人隱私受到侵犯如何進行救濟等，都是必須回答的時代課題。
其二，數(shù)據(jù)闡釋的價值判斷。從大數(shù)據(jù)分析需要來看，人類決策難以擺脫偏見和信息不充分等因素的影響，進而可能影響到結(jié)果的客觀性和公正性，因此，需要用一切皆可量化的大數(shù)據(jù)分析予以補充。然而，大數(shù)據(jù)分析離不開分析者的技術取舍（如數(shù)據(jù)清理、數(shù)據(jù)集成、數(shù)據(jù)變換、數(shù)據(jù)歸約）、數(shù)據(jù)賦值和數(shù)據(jù)闡釋，而“數(shù)據(jù)闡釋并不是理性的，這不能測量，也沒有是非對錯的終極判斷。闡釋永遠是主觀的，是依賴直覺的，而且也與周邊環(huán)境緊密相關。同樣的數(shù)據(jù)在不同的環(huán)境內(nèi)容中可以有截然不同的意義，這些意義并非數(shù)據(jù)所固有，而是人們在特定環(huán)境中分析數(shù)據(jù)并將意義賦予了數(shù)據(jù)”。受此影響，面對相同的數(shù)據(jù)材料常常形成不同的算法，并得出對問題的不同解釋和不同的行動方案。這樣，數(shù)據(jù)闡釋就不再是一個技術問題，而是內(nèi)含著一定的價值判斷，潛藏著不同的利益訴求和權利主張，需要構建相應的數(shù)據(jù)正義觀予以指引。
2.代碼正義觀
在計算機時代，人類通過編寫代碼來下達指令，讓計算機去完成人類賦予它的各項工作。隨著互聯(lián)網(wǎng)的融合化、實體化、智能化發(fā)展，造就網(wǎng)絡空間的軟件和硬件越來越實際地控制和規(guī)制著該空間，而“代碼就是法律”，代碼正義會變得越來越引人注目。
首先，代碼規(guī)制的正當性與合理性。在互聯(lián)網(wǎng)創(chuàng)生之初，網(wǎng)絡自由主義者曾宣稱要拒絕國王、總統(tǒng)和投票，他們只堅信基本的共識和運行的代碼。但事實上，網(wǎng)絡空間從來都不是沒有規(guī)矩的“自然狀態(tài)”。其中，在知識產(chǎn)權、隱私和言論自由等方面，制定標準和編寫代碼就是一種新型的規(guī)制形式和控制力量。這意味著，“代碼如何規(guī)制，代碼作者是誰，以及誰控制代碼作者——這些是在網(wǎng)絡時代實踐正義必須關注的問題。其答案會揭示網(wǎng)絡空間是如何被規(guī)制的”。為此，就要求代碼必須有一定程度的開放與透明，以至于“開源代碼的斗爭不亞于爭取民主的斗爭，不亞于反對國家權力可能被濫用的斗爭”，它已成為“開放社會的基礎”，從而使代碼規(guī)制能夠保持必要的正當性與合理性。
其次，代碼編寫的價值偏好。從技術上看，程序員按照設定任務（應用）來編寫源代碼（源程序），并經(jīng)由編譯程序轉(zhuǎn)換為目標代碼或可執(zhí)行代碼，進而指揮計算機的每一個動作以解決某個算術或邏輯問題。因此，在代碼編寫中就必然會帶有程序員（或雇主）的思想理念，在這里并沒有中間立場。特別是在商業(yè)運營軟件、產(chǎn)品服務軟件、政府管理軟件的編程中，預定任務和目標的價值偏好是不可避免的，“代碼作者越來越多地是立法者。他們決定互聯(lián)網(wǎng)的缺省設置應當是什么，隱私是否被保護，所允許的匿名程度，所保證的連接范圍。他們是設置互聯(lián)網(wǎng)性質(zhì)之人。他們對當前互聯(lián)網(wǎng)代碼的可變和空白之處所做出的選擇，決定了互聯(lián)網(wǎng)的面貌”。代碼編寫的背后，是代碼所圈定的商業(yè)利益和政府管理模式，而廣大客戶或服務對象則處于話語權缺失狀態(tài)和弱勢地位，在商業(yè)建模面前只有選擇“用”或“不用”的權利，這無疑都會或隱或顯地制造和加劇社會等差與不公平。因此，抑制代碼編寫的價值偏好就成為實現(xiàn)代碼正義的必然要求。
再次，對“惡意代碼”的控制。盡管為了應對21世紀“代碼管理危機”，出現(xiàn)了代碼管理工具和管理系統(tǒng)，也對程序員提出了“責任與義務”“不行損害之事”等專業(yè)倫理要求，然而，在商業(yè)利益和不良動機的誘惑下，仍存在著大量的內(nèi)核套件、流氓軟件、勒索軟件、間諜軟件、病毒軟件等“惡意代碼”程序，嚴重破壞了互聯(lián)網(wǎng)秩序并侵犯了用戶的合法權益。據(jù)此，必須開發(fā)新的惡意代碼分析、控制技術，并扼制惡意代碼編寫者的技術回應，從而控制“惡意代碼”軟件的泛濫，維護代碼正義和網(wǎng)絡秩序。
3.算法正義觀
在智能互聯(lián)網(wǎng)和“賽博新經(jīng)濟”時代，“算法定義經(jīng)濟”“算法統(tǒng)治世界”成為一個明顯的趨勢。算法正義，已成為直接影響商業(yè)交易和社會關系的重要問題。
一是算法偏見或歧視。大數(shù)據(jù)、人工智能的廣泛應用，促使一些制造商和商業(yè)平臺通過運用數(shù)據(jù)挖掘和算法，來對用戶進行“量身解讀”和行為模式歸納，從而做出有針對性的“私人定制”和提供個性化服務，并承諾算法的客觀性、精準性、可靠性。這樣，用戶就把決策權交給了商業(yè)算法。然而，美國一些警務實踐表明，算法設計者對犯罪威脅或風險預測、違規(guī)自動監(jiān)控等的相關性賦值與權衡卻帶有偏見乃至錯誤，例如，與面部識別技術相關的算法對男性的識別率高于女性，對非白人的識別率高于白人。這表明，“在數(shù)據(jù)集中，雜亂無序的各種相關性暗含著隱秘的規(guī)律性，其中很可能就存在某些偏見”，導致“人們有可能在完全不知情的情況下觸犯法規(guī)”。在谷歌地圖的應用上也是如此，“如果算法不關注人們現(xiàn)在所處的位置，而只關心廣告商最終希望他們前往的位置，那么依靠算法決定行動方向的人，可能會被導向固定的路線，就像演員只能照著劇本表演一樣”。在我國，同樣存在著“數(shù)據(jù)殺熟”、算法偏見或歧視的問題。如一些打車軟件會基于用戶的消費習慣和能力的算法，來對用戶進行差別定價，高消費能力的會有更高的價位，但低消費能力的搶單機會則會降低。由于商家有選擇的、利益至上的營銷方案，這種算法偏見會在事實上形成一個“鄙視鏈”，嚴重侵蝕了社會公平和正義。
二是算法黑箱?！盎ヂ?lián)網(wǎng)+”、大數(shù)據(jù)和人工智能的加速融合發(fā)展，使“人類正在進入一切皆可計算的時代”。表面上，似乎只要輸入數(shù)據(jù)就能得到結(jié)果，但實際上卻存在著算法黑箱問題，算法決策面臨著一定的風險和不公：“打開黑盒子，設計者與用戶面對的將是一堆可以得出某種答案的主觀偏見與程序。而合上之后，它體現(xiàn)的就是客觀性——一種無須滿足任何更多的條件即可生成‘是’與‘否’的二元選項的機器?！币蕾囘@些算法做決策的人“根本不知道他們做出的決定是否正確，制定的政策是否公正，有沒有歪曲事實”。事實上，商家運用算法作為銷售工具的趨向已經(jīng)勢不可擋，各種建模和算法很可能已經(jīng)巧妙地“將你的生活轉(zhuǎn)化成他人的商機”，甚至還會出現(xiàn)20世紀90年代末金融市場上的“算法戰(zhàn)爭”和私人市場“暗池”。在公共政策或公共服務自動化中的算法設計中，“程序員們被賦予了過多的決策權，而且不受到任何審查”，不僅算法黑箱和錯誤不可避免，甚至還可能出現(xiàn)失控的“算法自主”現(xiàn)象。這樣，就需要努力推進算法的透明性、公開性和建立算法審計機制，讓“那些對結(jié)果抱有懷疑的人可以掀開‘引擎蓋子’看個究竟”，而如何通過算法審計機制，來讓算法遵循“善法”，就成為維護算法正義的重要方面。
總之，一旦生活中的眾多事務都由數(shù)據(jù)分析、代碼編排和外部算法來管理，人們就很難再找回過去的隱私、自由和權利，而數(shù)字鴻溝、數(shù)據(jù)壟斷、算法偏見、算法黑箱等又會加劇社會分化。這樣，傳統(tǒng)自由主義基于物理空間所推崇的“人類生命及人類體驗神圣不可侵犯”的自由、平等、人權、公平等信念，將會遭受致命的打擊，甚至會出現(xiàn)“崩潰”之勢。這就呼喚確立智能互聯(lián)網(wǎng)時代的新型正義觀和價值觀，“對于關乎個體權益的自動化決策系統(tǒng)、算法和人工智能，考慮到算法和代碼，而非規(guī)則，日益決定各種決策工作的結(jié)果，人們需要提前構建技術公平規(guī)則，通過設計保障公平之實現(xiàn)，并且需要技術正當程序，來加強自動化決策系統(tǒng)中的透明性、可責性以及被寫進代碼中的規(guī)則的準確性”。
（二）法律關系上的深度變革
信息技術革命與歷次技術革命的一個根本不同，就是打造了前所未有的物理空間—電子空間、現(xiàn)實生活—虛擬生活的交融同構生態(tài)，突破了物理空間上的生產(chǎn)生活限制。這樣，在既有社會關系發(fā)生重大變革的同時，又產(chǎn)生了很多新的社會關系，法律關系也隨之發(fā)生深度變革。
1.新型法律關系主體和客體日益涌現(xiàn)
在智能互聯(lián)網(wǎng)社會，互聯(lián)網(wǎng)平臺、數(shù)據(jù)公司等新興商業(yè)組織塑造著全新的經(jīng)濟業(yè)態(tài)、商業(yè)模式和交易規(guī)則，成為日益重要的新型法律關系主體，它具有此前法律關系主體所不可想象的“準立法權”“準行政權”和“準司法權”，淘寶、京東、騰訊等每年都會處理數(shù)十萬件糾紛。更為重要的是，人工智能技術的飛速進步，開啟了人機共處的新時代，從而不斷沖擊我們賴以建立傳統(tǒng)世界的那些確定性。由此，智能機器人是不是“人”的問題就日顯突出?！爸黧w做出行為，客體承受行為——但一個行為著的客體算什么呢？對法律而言，這種不確定的區(qū)分將引發(fā)一個又一個難解之題?！钡?，鑒于智能機器人自主意識方面的技術飛躍和它在商業(yè)活動及社會文化生活中越來越重要的角色，智能機器人擺脫人類的純粹工具地位而獲取主體身份，將是一個必然的趨勢，相關的法律關系主體制度設計也將面臨重大變革。
在全球信息化的秩序轉(zhuǎn)型中，電子技術把所有交易模式都融入到一個巨大的系統(tǒng)之中，數(shù)據(jù)、代碼、算法、炒信平臺侵犯的法益、虛擬財產(chǎn)等新的法律客體以及財產(chǎn)類型不斷出現(xiàn)。這使得學界曾經(jīng)公認的“凡是人以外的不具有精神、意思的生物歸屬于物，是為權利的客體。主客體之間這種不可逾越的鴻溝”現(xiàn)在發(fā)生動搖。傳統(tǒng)法律關系主體、客體范疇的定義、內(nèi)涵、外延、法律屬性等均遭受著重大的沖擊和挑戰(zhàn)。
2.權利與義務關系正面臨著根本性的重塑
“數(shù)字化+智能化”的加速融合發(fā)展，使得大數(shù)據(jù)分析和算法逐漸塑造了大平臺與微時代、集中化與碎片化、虛擬化與現(xiàn)實化之間復雜交織的新型社會關系，“它改變了我們對位置、信任、空間、時間和聯(lián)系的定義”。
一是新型權利大量出現(xiàn)，突破了既有的權利義務范疇所能界定與證明的范圍。在法律發(fā)展史上，因經(jīng)濟發(fā)展和社會進步而產(chǎn)生新權利，一般都是以緩慢的、個別方式來呈現(xiàn)的；而智能互聯(lián)網(wǎng)發(fā)展所引發(fā)的新權利則表現(xiàn)出急速迸發(fā)的態(tài)勢，如信息權、數(shù)據(jù)權、訪問權、被遺忘權、可攜帶權、免受自動化決策權、虛擬財產(chǎn)權、智能體的作品權利等。面對日新月異的智能技術進步及其在日常生活中的廣泛應用，人們也許并不需要對法律做太多激進的修改就可把法人地位延伸到智能機器人領域。然而，“更困難的問題是給予智能系統(tǒng)的可能的權利”，這種新型權利無疑對傳統(tǒng)法律理念、理論和制度都構成了嚴重挑戰(zhàn)甚至顛覆。這些新型權利義務（權責）關系，尤其是區(qū)塊鏈、比特幣、自動駕駛等的數(shù)字化、智能化發(fā)展，難以在既有理論和制度的框架內(nèi)得到證明和實踐。以自動駕駛造成的交通事故為例，它會涉及汽車制造商、軟件開發(fā)商、程序員、汽車所有者、交通事故當事人，“可能的肇事者鏈變得越來越長，而且很難再被一一辨析清楚。此外，軟件由成百上千名程序員編寫，無時無刻不在更新”，其結(jié)果很可能是“所有人都會被控告”卻“最后無人擔責”。而智能系統(tǒng)面對危急時的復雜路況——當交通肇事無可避免時，是優(yōu)先保護婦女兒童還是老人、車內(nèi)乘客還是路人、少數(shù)人還是多人？倘若要將人類倫理轉(zhuǎn)換成智能系統(tǒng)的決策程序和算法，其所涉及的權利義務（權責）關系將更是傳統(tǒng)理論及其制度實踐所無法回答和解決的，理論和制度的創(chuàng)新迫在眉睫。
二是傳統(tǒng)權利義務關系因嵌入數(shù)字化、智能化要素而發(fā)生了根本性改變。智能互聯(lián)網(wǎng)使得數(shù)據(jù)、代碼、算法和建模嵌入了社會關系和社會生活之中，導致“一方面權利被擴大，另一方面權利被削弱”。例如，數(shù)據(jù)挖掘會實現(xiàn)對消費者的“量身訂制”和優(yōu)質(zhì)服務，但也會成為殺熟的工具；各個行業(yè)的智能化發(fā)展為消費者提供了便捷舒適、自由選擇的商業(yè)環(huán)境，但同時各種算法的不透明也會導致“黑箱社會”，甚至“某些老練的法人實體可能正在利用這些算法為自己謀利”；區(qū)塊鏈應用領域中的智能合約，帶來了透明、安全、高效、去中心化的信任共識機制，但“危險在于沒有人能確保該算法設計準確，尤其是當它與眾多算法交互時”，人們只能接受算法的決策和承擔相應的后果。這些并不是簡單的新生事物利弊問題，其深層正是傳統(tǒng)權利義務屬性的改變、放大和限縮，展現(xiàn)著“被賦權和剝奪權利”兩者間相互作用的趨勢。傳統(tǒng)權利義務的對應關系、平衡關系及其制度實踐隨之發(fā)生了重大改變，平等、自由、公正和民主原則都將遭遇重大挑戰(zhàn)。
三是權利義務分配及其實現(xiàn)方式不斷被解構和重構。各種新業(yè)態(tài)以數(shù)字化、智能化、平臺化的全新價值理念、商業(yè)模式和管理方式，推動著對傳統(tǒng)行業(yè)和制度的“創(chuàng)造性破壞”。由此所形成的利益訴求和社會關系，不斷地解構和重構著傳統(tǒng)的權利義務設定和分配格局。
首先，法權觀念的更新與重構。移動互聯(lián)網(wǎng)使人們迎來一個“無分享不生活”的時代，“過去既求所有又求所用的消費觀念，變成了不求所有但求所用”。隨著發(fā)展方式從獨享經(jīng)濟邁向分享經(jīng)濟，那些關注財產(chǎn)的實體性、當下性，強調(diào)占有、控制與積累的傳統(tǒng)法權觀念受到重大沖擊，而注重信息財產(chǎn)的虛擬性、衍生性和未來性，強調(diào)分享、利用與流通的全新法權觀念則悄然興起。近年來迅速崛起的短租平臺、分時度假等新業(yè)態(tài)、新模式，塑造著共享模式的權利義務關系和實現(xiàn)方式，傳統(tǒng)法律制度對此難以有效處理，法律制度和社會秩序的順應變革就成為必然。
其次，法權界定的難題日益增多。任何時代的法律，都會遭遇到新社會關系中的法權界定難題，但它是少量的、偶發(fā)的。而當今的普惠金融P2P模式、眾籌模式、網(wǎng)絡名譽侵權乃至一些互聯(lián)網(wǎng)犯罪等，則是批量的、經(jīng)常性出現(xiàn)的。它們所帶來的新的交易形式、利益關系、責任歸屬和救濟方式等問題，都難以再延用以往的權利義務關系理論和制度安排，其法益性質(zhì)與范圍也難以厘清，如僅憑“點擊量”來認定網(wǎng)絡名譽侵權是否合理、炒信行為如何認定、盜竊網(wǎng)絡信息如何處理等。這些法權界定的難題都需要理論和制度上的創(chuàng)新來解決。
再次，通過軟件植入實現(xiàn)了對既有權利義務關系的即時改寫。網(wǎng)約車、搶票軟件的興起，其實質(zhì)是憑借數(shù)字化、智能化技術實現(xiàn)了在現(xiàn)有制度中的“植入”。這些“植入”一方面通過“創(chuàng)造性破壞”提供了社會進步的便捷與福利；另一方面，也直接“改寫”了既有出租車管理制度、購票制度中的相關權利義務關系。例如，將“黑車”洗白、高峰“加價”改寫“定價”、軟件“叫車”對路邊“揚招客”的“優(yōu)先權”、購票軟件以智能化“插隊”方式獲取絕對優(yōu)勢的購票機會等，都使得既有權利義務的分配格局被打破，權利義務的實現(xiàn)方式也被更改，制度規(guī)范的效力就難免出現(xiàn)危機，迫使政府不得不進行回應和變革。
3.權力與權利的關系發(fā)生了結(jié)構性轉(zhuǎn)向
其一，私權利與公權力的同步增長。網(wǎng)絡空間帶來了空前的自由空間和自我賦權，但各國都在憑借技術手段來規(guī)制互聯(lián)網(wǎng)，并導致“監(jiān)控國家的誕生”。因此，盡管互聯(lián)網(wǎng)帶來的好處是如此驚人，但“在20世紀的所有發(fā)明中，它是對個人生活侵犯得最厲害的”，自由與控制、私權利與公權利是雙向運動的。
其二，私權利扁平化與私權力崛起相交織。在智能互聯(lián)網(wǎng)時代，一方面是“集中化的時代已經(jīng)過去，現(xiàn)在的世界充滿了更多的商機，以及更加分散的事物”，呈現(xiàn)分布式、多中心、人性化的分享發(fā)展趨勢，消費大眾及其權利日益碎片化、扁平化；另一方面，平臺經(jīng)濟成為當今社會的主導形態(tài)，這些商業(yè)平臺基于自身利益和運營需要，制定了各種交易程序、交易規(guī)則和糾紛解決機制，而這些程序和規(guī)則呈現(xiàn)在消費者面前的，主要是概括性同意與否而不是菜單式選擇?！皞鹘y(tǒng)的消費者不會回來了”，而政府管理部門無力面對海量的信息和交易，便把一些公法審查義務交給網(wǎng)絡服務提供者，進而賦予其公法審查權力，并造成了“避風港原則”與“防火墻”之間的內(nèi)在張力。于是，平臺就具有了自身運營的管理權和政府轉(zhuǎn)加的公法審查權，形成了日益龐大的、具有某種公權特征的私權力。而“所謂的平臺效應也在加劇利益和價值向少部分人手中集中”。
其三，公權力、私權力與私權利之間的復雜博弈。社會權力的崛起改變了傳統(tǒng)的國家與社會的二元對立框架，形成了智能互聯(lián)網(wǎng)時代的公權力—私權力—私權利三元博弈新格局：（1）國家公權力承擔著公平正義和社會秩序的公共使命，社會私權利也會對國家寄予一定理想期盼，因此，二者會具有抑制社會私權力、防止壟斷和促進社會公平的共識，以實現(xiàn)消費者權益保護和民生權利維護；（2）國家公權力與社會私權力在一定條件下，會為了經(jīng)濟發(fā)展和社會穩(wěn)定，形成一定的共謀治理機制，來防止社會私權利的膨脹和濫用；（3）社會私權力與私權利，同樣會基于稅負、精英自由、市場自律等訴求，形成一定的合作，來共同抑制公權力的擴張和濫用，促進法治秩序的形成。這就改變了以往國家與社會、權力與權利的關系結(jié)構與系統(tǒng)功能。“一種形式的權力或許被摧毀了，但另一種正在取代它”，這意味著邁向多元治理的結(jié)構性轉(zhuǎn)向，會引發(fā)法律關系的深刻變革。
（三）法律行為上的深度變革
1.跨越雙重空間
互聯(lián)網(wǎng)開辟了傳統(tǒng)生活之外的虛擬空間。游走在虛實交錯的商業(yè)交易、信息服務、社會交往和文化生活中，法律行為也因此發(fā)生深刻變化。
其一，法律行為后果上的重大差異。在千百年來的現(xiàn)實空間中，人們的法律行為主要發(fā)生在可接觸、可知情、可理解的人與人、人與物之間；而如今，網(wǎng)絡虛擬空間則是具有扁平性、匿名性、分布性、流動性的無限場域，是“一個與現(xiàn)實世界有些相似的世界，是一個既存在于現(xiàn)實世界，又存在于現(xiàn)實世界之外的無法界定的地方”。這樣，法律行為的社會影響就會被無限量放大，甚至會發(fā)生實質(zhì)性改變。例如，虛假信息散布行為一旦從線下轉(zhuǎn)移至線上，其社會影響和危害性就會發(fā)生顯著增長；而P2P借貸、股權眾籌融資等行為，在線下因缺少必要的審批環(huán)節(jié)是非法的甚至會成為犯罪，但同樣情形在線上卻是受歡迎的、并未被法律禁止的金融新業(yè)態(tài)。同一法律行為在虛實不同空間中的不同行為后果，是因為行為的表現(xiàn)形態(tài)和社會影響程度發(fā)生了根本改變。
其二，法律行為的動機、目的和因果關系復雜難辨。由于網(wǎng)絡虛擬空間具有扁平化、自由化、匿名化等特殊屬性，發(fā)生其中的法律行為的動機、目的和因果關系呈現(xiàn)出快速流變性、深度隱蔽性和邊界模糊性，對很多法律行為都難以套用傳統(tǒng)理論和司法實踐經(jīng)驗來應對。如在“雙十一”將競爭商家的大量商品放進“購物筐”、節(jié)后再放回網(wǎng)店售架，餐飲店通過打折來換取客戶在網(wǎng)上的好評，打車軟件利用數(shù)據(jù)分析和自動算法來對客戶“殺熟”等，其中電子化、信息化、數(shù)據(jù)化且虛實交錯的意思表示、行為表現(xiàn)、證據(jù)鏈條和因果關系就顯得十分復雜。最高人民法院、最高人民檢察院發(fā)布的《關于辦理利用信息網(wǎng)絡實施誹謗等刑事案件適用法律若干問題的解釋》將網(wǎng)絡空間視為“公共場所”，其實，大小不等、分布海量的QQ群、微信群、微博粉絲群等，很難界定哪個屬于“公共場所”、哪個屬于私聊空間；虛擬空間的“線上”行為產(chǎn)生現(xiàn)實空間的“線下”危害后果，“線上”擾亂“線下”或者“線下”擾亂“線上”秩序，其因果關系也要經(jīng)歷虛實兩個空間的立體穿越和復雜轉(zhuǎn)換，而不是平面的因果邏輯套用所能闡釋清楚的。
其三，社會行動方式上的深刻改變?！熬W(wǎng)絡空間不是一個同質(zhì)的場所，在各種不同網(wǎng)址上發(fā)現(xiàn)的群體和活動都是獨具特征的，因而每一區(qū)域都會發(fā)展一套獨特的規(guī)則?！毕鄳?，價值觀念和行為方式也出現(xiàn)了巨大分化，社會交往更加自由、便捷和展現(xiàn)個性，使得特定的人群不再一致，一致的人群不再特定，這就使得集體行動的成本大幅降低，而動員能力卻急劇提升，促進了互聯(lián)網(wǎng)運動和亞文化的擴展與繁榮。因此，互聯(lián)網(wǎng)一定程度地從技術上突破了代議民主的限制條件，使直接行動、直接參與、直接民主成為可欲的目標，但網(wǎng)絡民粹主義和多數(shù)人的暴政相互助長也成為了它的副產(chǎn)品，甚至還會扭曲民主的精神實質(zhì)和現(xiàn)實途徑?！翱鐕绲姆秶?、無邊界的規(guī)模、分散的控制、新型機構、集體行動能力的急劇變化”，正在“轉(zhuǎn)變通信與信息政策領域的國家控制與主權”，也改變了國家介入社會的方式和范圍，促發(fā)著社會治理與國家治理模式的發(fā)展變革。
2.呈現(xiàn)人機混合
在以往的社會生活中，人們的行為是在一定目的、欲望、意識、意志支配下所做出的外部舉動，其中具有法律意義、能夠發(fā)生法律上效力或產(chǎn)生一定法律效果的就是法律行為。然而，當今的人機共處，將會對法律行為產(chǎn)生一定的革命性挑戰(zhàn)。
首先是意思銜接。自工業(yè)時代以來，人們就一直跟機器打交道，包括自動化的機器。然而，智能機器人與以往機器的根本不同在于，它們被賦予了人工智能（算法），在人類的設計規(guī)劃下接替人類的一些工作。如利用智能機器人進行股票分析和交易、智能醫(yī)療、自動駕駛等，這把“原本對于不同情境的個人化處理，如今變成了制度的公開決斷”，“它使用隱藏的算法進行那些我們無法理解的論證，不斷給出可以決定我們生活的得分”。于是，人類的研判和決策就通過智能機器人得到了廣泛延伸。此時，算法黑箱、算法自主、智能機器人的深度學習等問題，就使得一些法律上的意思表示出現(xiàn)了人機銜接問題，例如：智能機器人的決策是使用人（操作人）的意思表示，還是純粹機器人算法的“意思表示”？智能機器人下棋、作畫、寫詩是純粹機器人的“算法意識”，還是被輸入算法的眾多棋手、畫家和詩人智慧的“集體意識”？通過運用人工智能機器深度學習技術訓練機器，使其像“阿爾法狗”一樣自主操作識別圖片驗證碼，輕松繞過互聯(lián)網(wǎng)公司設置的賬戶登錄安全策略來實施盜取信息犯罪，是犯罪人的意志還是機器人自主學習的“意志”？當然，此時可以繼續(xù)（或者擴展）延用“知道或者應當知道”學說來歸責，但以往的“知道或者應當知道”，都是行為人憑借生活經(jīng)驗、知識傳承等可以理性預測的且比較確定的情況，而機器人自主學習則是人類智慧的技術延伸，它“破壞了機械和有機之間的界限”，會出現(xiàn)連程序員都無法理解的高度不確定性和難以控制性。這種“不按套路出牌”的自主學習，已遠超行為人可以理解和預知的范圍，會給法律行為的認定帶來重大挑戰(zhàn)。
其次是行為協(xié)同。隨著智能互聯(lián)網(wǎng)的深度發(fā)展，“計算機系統(tǒng)從一種工具變成了代理人”，甚至在勞動力與服務業(yè)等很多方面都已經(jīng)取代了人類。“既然認識到計算機已經(jīng)取代了那些本該具有道德約束的人類服務人員，再去避免談及對計算機系統(tǒng)類似的道德約束就顯得不合適了?！敝匀绱?，很大程度上是因為人機共處背景下的行為混同。例如，自動駕駛程序在難以判斷的危機時刻，就會通過“切換”交還給人工操作，但“關于‘切換’問題，越來越多的研究人員就一個觀點達成了一致——自動駕駛在緊急情況下返回人類駕駛的問題也許根本無法解決”。人機配合、協(xié)同和傳遞的問題，在理論和實踐上對法律行為理論和制度提出了挑戰(zhàn)。
再次是后果混同。隨著智能機器人承擔越來越多的人類工作，如何界定和對待智能機器人與人類的關系就成為一個十分緊迫的問題。有學者認為，不能將計算機系統(tǒng)僅僅理解為被設計出來的產(chǎn)品，而應看到計算機系統(tǒng)也有行為，它們的行為能夠影響人類，并且可以在評價它們的設計者的行為之外對其單獨評價?！霸O計師做的事和計算機做的事（在一個特定的環(huán)境下）是不一樣的，盡管聯(lián)系很緊密。認為只有人類設計師才是道德主體是沒有認識到科技和計算機系統(tǒng)限制、簡化且大體上塑造了人類行為?！庇嬎銠C和用戶之間是通過算法而形成的道德關系，是一種機器代理。這樣，智能機器人也就存在著無法完成追求它們用戶利益的任務的可能，乃至可能代表它們的用戶在工作中做出不當行為。于是，“隨著機器在普通人的生活和工作中的普及，通過機器使行為和責任脫鉤日益成為普遍現(xiàn)象。越來越多的人將失敗的責任轉(zhuǎn)嫁到機器身上”。在利用智能機器人的醫(yī)療事故、自動駕駛的交通事故、智能交易的重大失誤、無人機誤判恐怖分子錯殺平民等問題上，“誰來為機器的行為負責”，是技術故障、操作不當、還是設計缺陷？計算機系統(tǒng)的道德代理并不意味著對機器設定責任、義務或是責備是合理的，恰是“計算機系統(tǒng)中的錯誤或不當行為的來源可以原則上回溯到對軟件設計做出決定的人，無論合理與否”。遺憾的是，“我們都知道一個產(chǎn)品可以追蹤屬于哪個廠家，但程序是不一定的，有可能是由眾多的人共同開發(fā)的，程序的產(chǎn)生可能無法追蹤到某個具體的個人或組織”。這樣，人機共處和協(xié)同所產(chǎn)生的后果問題就陷入了困境，人機混合必然要求進行相應的理論創(chuàng)新和制度重構。
此外，法律思維與法律方法也會發(fā)生相關性替代因果性、信息專業(yè)化解釋、司法執(zhí)法智能化等方面的深度變革。因此，人們必須認識到它所推動的“新的社會關系的革命性潛力”。
三、法律變革的應對之策
早在1996年，國際上就曾出現(xiàn)關于互聯(lián)網(wǎng)法是否為法的“馬法之議”，而互聯(lián)網(wǎng)法現(xiàn)在已成為不爭的事實。當下這場波瀾壯闊、創(chuàng)新升級的信息革命，必“將使18世紀工業(yè)革命以來圍繞能量與物質(zhì)構建的法律秩序向圍繞信息構建的法律秩序全面轉(zhuǎn)型”。法學研究應改變以往基于單元物理空間和科學邏輯的思維方式，轉(zhuǎn)到基于雙重空間、人機混合、算法主導的信息邏輯的思維向度，并重塑羅馬法權觀念和現(xiàn)代性法律理念。具言之，應立足智能互聯(lián)網(wǎng)時代的客觀要求，確立新型正義觀，構架新型權利義務關系，促進權益的平衡共享發(fā)展，推動法律制度與規(guī)則秩序的轉(zhuǎn)型升級。
（一）構建一體融合的法律體系
目前，包括我國在內(nèi)的很多國家都已走出“馬法之議”的階段，大多采取了“并行主義”策略。其基本做法是采取二元規(guī)范進路，即一方面按照現(xiàn)有法律理念和規(guī)則邏輯補充立法、擴展司法解釋，以盡量囊括和適用于智能互聯(lián)網(wǎng)的新問題、新挑戰(zhàn)；另一方面又建立互聯(lián)網(wǎng)法律體系和互聯(lián)網(wǎng)法院，與既有的法律體系分立并行。這固然要比單純按照物理空間的規(guī)則邏輯來處理智能互聯(lián)網(wǎng)案件的做法好得多，但這仍然有很大的局限。當今的社會關系、交往行為及其后果，有些仍然限于單純的物理空間，有些限于單純的虛擬空間，但絕大多數(shù)則虛實混合。不僅線上線下、虛擬現(xiàn)實、人機交錯的商業(yè)交易、社會交往和互動過程難以進行清晰二分，而且彼此融合延伸的法律關系、法律行為也難以進行二元分立處理。因此，“面向智能革命時代，我們應在認識和分析現(xiàn)行法律困境的基礎上，探索與科學文明相伴而生的制度文明，創(chuàng)制出有利于人工智能健康、有序發(fā)展的社會規(guī)范體系”。這需要從更高、更抽象的層面上，來整合并達致現(xiàn)代性法律與智能互聯(lián)網(wǎng)新型關系的法益共識。特別是要尊重法律變革進程中的新興權利和法益訴求，內(nèi)在地反映雙重空間、人機混合、算法主導時代的行為規(guī)律和新型法律關系，在法律概念、法律規(guī)則、法律原則中融入智能互聯(lián)網(wǎng)元素，探索從二元規(guī)范走向一體融合規(guī)則體系的制度安排，從而塑造信息時代的新型法治秩序。當然，這絕不是對現(xiàn)代性法律的拋棄或替代，而是繼承和發(fā)展；這更不是一蹴而就的，也不可能依賴人為設計，而是立足智能互聯(lián)網(wǎng)生活實踐的一個長期的、復雜的試驗探索、規(guī)則提煉、命題驗證的轉(zhuǎn)型升級過程。這與農(nóng)業(yè)時代法律體系向工業(yè)時代法律體系的轉(zhuǎn)型升級有著相似的歷史邏輯。
（二）探索新型的代碼規(guī)制方式
在數(shù)據(jù)和算法成為重要的生產(chǎn)要素的宏觀背景下，大量的生產(chǎn)生活關系將會由代碼來設定、建構和維護。當傳統(tǒng)物理空間的規(guī)則邏輯遭遇虛擬空間和建模算法的規(guī)則邏輯并產(chǎn)生沖突時，以前者強行干預或者替代后者，就會出現(xiàn)很多尷尬和困境。如在快播案中法院對快播的規(guī)制，屬于對算法結(jié)果進行的規(guī)制。這種規(guī)制希望通過對平臺施加責任，促使快播自行清除淫穢視頻，但其主要問題在于“取證及論證的不足，監(jiān)管方式的正當性，以及最根本的，平臺對技術問題的把持。如果希望突破這些局限性，更好地控制算法本身，勢必要深入技術黑箱，對算法設計進行干預”。這意味著，智能互聯(lián)網(wǎng)時代的法律規(guī)制，需要放棄傳統(tǒng)習慣上的強行干預方式，而更多地采取技術主義路線和策略，把法律規(guī)制轉(zhuǎn)換成與之對應的法律技術化規(guī)制。這樣，代碼無疑就是最基本的轉(zhuǎn)換工具與中介平臺，代碼也成為規(guī)制行為和塑造治理秩序的一個重要的新型途徑，在相關領域出現(xiàn)從“代碼即法律”到“法律即代碼”的轉(zhuǎn)向?！斑@些代碼具有自我執(zhí)行的屬性，規(guī)則創(chuàng)制、規(guī)則執(zhí)行和規(guī)則司法在代碼這里是三位一體的?！?/span>
目前，美國等西方發(fā)達國家開始探索法律代碼化，進而以法律技術規(guī)制信息技術發(fā)展的規(guī)制策略，并取得了良好的成效?！坝捎谒惴◤娬{(diào)按部就班的程序，因此，法律編碼化應該可以保證具體判決的跟蹤、審核、驗證工作更加簡單明了，至少比有人為因素干擾時要好得多。從理論上講，算法可以詳細地描述應用于每個小的決定（進而形成最終的重要決定）之中的那些具體規(guī)則?！奔~約市議會已針對法院、警方等使用的自動化決策系統(tǒng)，提出了以算法透明、解釋權以及救濟權為核心的算法規(guī)制策略。當然，在諸如征信規(guī)則、量刑規(guī)則、保險規(guī)則等被代碼化而寫進程序的過程中，算法和代碼的設計都是編程人員的主觀判斷和選擇，編程人員可能并不知道公平的技術內(nèi)涵，也缺乏一些必要的技術公平規(guī)則指引他們的程序設計，他們是否可以不偏不倚地將既定的規(guī)則和政策原封不動地編寫進程序就需要審慎對待。比如，2004年9月至2007年4月，來自私營公司的程序員們曾將九百多條不正確的規(guī)則植入科羅拉多的公共福利系統(tǒng)，“他們的錯誤非常嚴重，對政策進行錯誤的編碼導致成千上萬人遭遇不公正的對待，造成這個問題的全部原因就是編碼的人沒有相關的背景知識”，其“錯誤的編碼導致法律條文被嚴重扭曲，其效果也發(fā)生了改變”。規(guī)則代碼化還伴有不透明、不準確、不公平、無法審查等問題。但無論如何，規(guī)則代碼化的技術主義規(guī)制進路和策略，已成為智能互聯(lián)網(wǎng)時代不可阻擋的規(guī)制發(fā)展趨勢。
（三）塑造高度自主的精細化治理秩序
自近代法治精神與原則確立以來，政府與市場、自由與干預、國家管制與社會自治一直是社會變革發(fā)展的主題，其核心問題乃是國家進入社會的邊界、程序、使命和目標。而智能互聯(lián)網(wǎng)時代徹底打破了單一物理空間的平面關系，進入了雙重空間、人機混合、算法主導、顛覆創(chuàng)新的多元立體發(fā)展時期。這不僅出現(xiàn)了錯綜復雜的線上線下監(jiān)管態(tài)勢，也出現(xiàn)了國家與社會之間雙向建構秩序的發(fā)展格局。就是說，“互聯(lián)網(wǎng)的治理系統(tǒng)是市場自由主義、國家監(jiān)管和共同決策趨勢的結(jié)合。如此，我們告別了互聯(lián)網(wǎng)‘有監(jiān)管’和‘無監(jiān)管’兩極分化，走向一套有著細微差別的不同規(guī)制模式：法規(guī)的\自愿的、正式的\非正式的、國家的\超國家的、等機制的\分散的”。這需要塑造國家規(guī)制導引下的高度自主的治理秩序，以便與新時期的法律變革相契合。
一是規(guī)則精細化。智能互聯(lián)網(wǎng)使得萬物相連、一切皆可計算，人們試圖利用算法、模型、機器學習等數(shù)學方法來重塑更加客觀、更加智慧的世界。其中，網(wǎng)絡平臺營銷、大數(shù)據(jù)分析、建模算法等新技術創(chuàng)造了去中心化、個性化的“量身定制”商業(yè)交易模式，這必然會出現(xiàn)五花八門、異常豐富的“定制化”交易關系，呈現(xiàn)出差異性的權益關系。這就要求精細化的自主規(guī)則，來塑造新型治理秩序。淘寶、騰訊、滴滴等平臺十分豐富的治理規(guī)則就是精細化的突出表現(xiàn)。這種精細化的規(guī)則，不可能通過程序復雜、保守穩(wěn)定的國家立法來實現(xiàn)，而是由民間的自主規(guī)制來承擔，“互聯(lián)網(wǎng)的程序、協(xié)議和平臺并不是和規(guī)制分離的，它們本身就是規(guī)制的一部分”。國家法律則在宏觀上為其提供指引、督導和協(xié)調(diào)，采取追懲制而非預防制，體現(xiàn)出社會治理的民主性、靈活性和創(chuàng)新性。
二是正義場景化。隨著智能互聯(lián)網(wǎng)的飛速發(fā)展，普遍性、一致性、抽象邏輯化的生活方式逐漸淡去，而根據(jù)特定情形、地域和對象的數(shù)據(jù)分析、場景定制、程序建模，則逐漸成為一種發(fā)展趨勢，諸如線上線下量身定制的醫(yī)療健康方案、個性化的精準服務、按照消費者需求定制產(chǎn)品等成為家常便飯，形成了自動化、場景化甚至一事一議的商業(yè)交易。這樣，面向應用場景的描述、主體責任倫理以及權利倫理就凸顯出來。因此，正義價值也會在這種定制場景中得以展現(xiàn)和接受考量，盡管基本的正義原則仍然發(fā)揮指導作用，但很多具體的正義權衡則需要基于定制場景來完成，它成為智能互聯(lián)網(wǎng)時代社會治理的一個重要動力和支撐。
三是治理平臺化。“要么利用平臺、要么被平臺消滅”的平臺經(jīng)濟時代，形成了“政府—平臺—大眾”的多元互動構架。平臺不僅是商業(yè)交易和經(jīng)濟發(fā)展的重要載體，也是社會治理和秩序構建的重要載體。首先，政府通過制定監(jiān)管規(guī)范、強化平臺責任、發(fā)布指導政策等方式，促使平臺借助數(shù)據(jù)分析、代碼和算法來強化自身管理、平臺治理和糾紛解決機制，它“由政府和商務共同推動，正在構筑一種能夠?qū)崿F(xiàn)最佳控制并使高效規(guī)制成為可能的架構”，以達到規(guī)制商業(yè)交易和社會秩序的目標。其次，廣大消費者也通過大眾點評、批評建議、參與糾紛解決機制等方式傳遞消費者訴求，進而影響平臺治理決策，并反饋給政府監(jiān)管部門，以促進政府治理機制的改進。再次，平臺治理在上傳下達的同時，其本身也對公權力擴張設置了一種制約機制，促進了規(guī)制方式的多元化、自主化和回應性。最后，社會大眾通過向監(jiān)管部門反應情況和投訴維權、向司法機關提起訴訟、發(fā)起輿論批評等方式，對平臺治理進行必要的社會監(jiān)督，也推動了國家層面對平臺治理的良善監(jiān)管?；诖?，在平臺治理過程中，就形成了國家與民間互動、軟法硬法并重、雙向多元構建的社會治理機制，促進法治秩序的時代轉(zhuǎn)向。
（四）促進執(zhí)法司法的智能化發(fā)展
智能互聯(lián)網(wǎng)時代的法律變革，要求執(zhí)法司法方式進行與其相適應的轉(zhuǎn)型升級。此前人們也會通過技術手段設計開發(fā)一些自動化系統(tǒng)，但它們都是按照預先設計的程序進行的簡單機械作業(yè)。隨著人工智能的飛速發(fā)展，基于數(shù)據(jù)和算法、反映智能互聯(lián)網(wǎng)發(fā)展規(guī)律的智能化執(zhí)法司法方式，會成為社會治理的一種變革趨勢。一是智能輔助，如智能輔助司法、智能輔助政務中的圖像識別、身份識別、證據(jù)認定、瑕疵審查等；二是智能服務，如智能化的大數(shù)據(jù)分析、政策咨詢服務、電子查詢系統(tǒng)等；三是智能執(zhí)行，如智能化公共福利系統(tǒng)、智能化電子交警等。對于新興的區(qū)塊鏈技術，“則基于法律框架，不僅通過預設自動執(zhí)行的智能合約，在約束并引導人們的行為時引入技術，而且依靠技術使信息更加透明、數(shù)據(jù)更加可追蹤、交易更加安全成為現(xiàn)實，大大降低了法律的執(zhí)行成本，呈現(xiàn)出法律規(guī)則和技術規(guī)則協(xié)同作用、相互補充，法律與經(jīng)濟融為一體、逐漸趨同的態(tài)勢，法律的約束與執(zhí)行逐漸走向智能化”。
需要指出的是，執(zhí)法司法的智能化目前并不是很成熟。以智能輔助司法為例，“算法有可能勝任法庭上的多項工作，甚至可以有效地提高現(xiàn)行法律制度的公平性，但是它們無法勝任判決工作”，特別是，“由于程序員偷懶或者疏忽，不少被編碼的法規(guī)與書面法規(guī)相比，確實存在精細度不夠的問題”，這就難免使執(zhí)法司法的智能化面臨很多問題和挑戰(zhàn)。
（五）嵌入風險控制的制度機制
一是防控新技術的負面后果。目前，智能互聯(lián)網(wǎng)的負面后果已較為突出，如信息鏈接與國家安全問題、大數(shù)據(jù)與隱私保護問題、區(qū)塊鏈與金融風險問題、算法決策錯誤帶來的重大損失（損害）問題、數(shù)字鴻溝與兩極分化等，甚至智能機器人大量替代人類工作之后，還會形成政治精英、資本精英、技術精英與“無用”大眾之間的深刻矛盾。在數(shù)字化世界，即便是一些微小的疏漏，也可能足以產(chǎn)生讓人無法預料的連鎖性事故，這就使得“人們會面臨表面相關性、錯誤闡釋和錯誤決策的風險”。因此，“我們需要制定和論證新政策（法律、法規(guī)和關稅）以規(guī)范各種新情況。有時，我們可以預見技術的使用將產(chǎn)生明顯的不可取的后果，盡可能多的是，我們需要預見這些后果并制定政策，最大限度地減少新技術的有害影響”。
二是防控智能互聯(lián)網(wǎng)的異化發(fā)展。人類已經(jīng)由工具運用文明、技術統(tǒng)治文明進入技術壟斷文明階段，其結(jié)果是，“互聯(lián)網(wǎng)不僅沒有受到公眾的控制，反而搖身一變成了控制者”，人工智能“這些自動化系統(tǒng)已經(jīng)由簡單的行政管理工具變成了主要的‘決策者’”。如果說工業(yè)革命是機器戰(zhàn)勝了人類的肌肉，那么今天的人工智能革命則是機器與人類的大腦角力。它兼具大腦和肌肉，“我們都正在面對‘被我們的造物完全取代’的未來”。盡管這些帶有預測性的警示未必準確，但應該對那些不可控的異化因素予以重視和及早防范。此外，利用互聯(lián)網(wǎng)和智能機器人進行高技能犯罪的現(xiàn)象越來越突出，打擊犯罪的壓力越來越大。這需要對網(wǎng)絡犯罪、黑客、暗網(wǎng)、流氓軟件等進行必要的打擊和風險防控，對人工智能機器人的設計進行規(guī)范，尤其要對其所包含的程序進行一種事先的審查，防止其被植入惡意程序，以有效控制人工智能可能引發(fā)的異化影響，有些重要的高風險領域甚至可以適當?shù)靥崆皩嵭蟹ㄒ姹Ｗo。
三是防控文化價值的流失。智能互聯(lián)網(wǎng)和大數(shù)據(jù)分析數(shù)字化地解構了人的存在與生活及交往方式，智能算法替代了人類的決策，但是，“如果人所有的行為、所有的感情、所有經(jīng)歷的事情、所有認識的人都可以進行量化，變成一組數(shù)據(jù)，那人類存在的價值在哪里”？如何在算法時代保持人性？有學者指出：“我不擔心人工智能讓計算機像人類一樣思考問題，我更擔心的是人類像計算機那樣思考問題——摒棄同情心和價值觀，并且不計后果?！边@就需要在法律體系中對數(shù)據(jù)使用、算法審計、權利義務和法律責任等做出合理的制度安排，確立有效的數(shù)據(jù)正義觀、代碼正義觀和算法正義觀，從而使機會和風險得到必要的、恰當?shù)臋嗪猓玫卮龠M智能互聯(lián)網(wǎng)時代的法律變革與轉(zhuǎn)型升級，塑造人類社會的美好未來。
《數(shù)字法治》專題由華東政法大學數(shù)字法治研究院特約供稿，本文來源于《法學研究》。
專題統(tǒng)籌：秦前松
編輯：海洋