大數(shù)據(jù)“殺熟”，算法“歧視”，平臺(tái)“畫像”……網(wǎng)絡(luò)互聯(lián)時(shí)代，算法，這個(gè)曾經(jīng)藏匿深處、遠(yuǎn)離大眾的互聯(lián)網(wǎng)專業(yè)詞匯，如今越來(lái)越多地被提及，越來(lái)越多地被關(guān)注。

算法以全新的挑戰(zhàn)形態(tài)對(duì)法律實(shí)踐產(chǎn)生沖擊，如何回應(yīng)這些挑戰(zhàn)，如何用法律保護(hù)算法的計(jì)算正義，使其促進(jìn)共同善的同時(shí)，不對(duì)正義和公平造成沖擊，本文作者認(rèn)為，傳統(tǒng)的回應(yīng)型規(guī)制視角并不可取，而是應(yīng)該從計(jì)算正義角度重構(gòu)算法與法律的關(guān)系模式。

人工智能帶來(lái)社會(huì)生活的智能化，隨著算法研發(fā)的發(fā)展和成熟，生產(chǎn)、社會(huì)生活、商業(yè)經(jīng)營(yíng)和公共決策等領(lǐng)域越來(lái)越多地利用算法來(lái)實(shí)現(xiàn)特定目標(biāo)。算法從幕后走到臺(tái)前，成為法學(xué)研究的熱點(diǎn)。

01算法的廣泛應(yīng)用帶來(lái)諸多法律困境

算法技術(shù)的獨(dú)特性不僅體現(xiàn)在算法如何進(jìn)行計(jì)算和應(yīng)用，而是對(duì)法律的價(jià)值世界造成沖擊。算法所引發(fā)的不僅是技術(shù)不受約束或者行業(yè)難以監(jiān)管，而是在一個(gè)非常基礎(chǔ)的層面上沖擊了法律這種制度形式：算法系統(tǒng)的黑箱問(wèn)題、算法運(yùn)行過(guò)程中的歧視、算法對(duì)偏見(jiàn)的數(shù)字化固化等等。這些現(xiàn)象導(dǎo)致社會(huì)產(chǎn)生強(qiáng)烈擔(dān)憂，更讓法律規(guī)制面臨棘手困境。

社會(huì)生活的計(jì)算化和算法與法律的融合產(chǎn)生了三方面的難題，帶來(lái)了一定程度的社會(huì)危機(jī)和治理困境。

第一類是監(jiān)管難題。社會(huì)生活的計(jì)算化改變了傳統(tǒng)概念的內(nèi)涵和社會(huì)理解，算法對(duì)社會(huì)生活的“入侵”使得隱私、自主、平等等概念變得模糊不清。借助算法，運(yùn)營(yíng)商對(duì)個(gè)人數(shù)據(jù)的收集變得易如反掌，通過(guò)算法監(jiān)測(cè)用戶的舉動(dòng)也成為技術(shù)常態(tài)；社交平臺(tái)收集用戶信息并進(jìn)行畫像，定向推送廣告；網(wǎng)絡(luò)服務(wù)提供者運(yùn)用數(shù)據(jù)進(jìn)行特定的數(shù)據(jù)分析或者實(shí)驗(yàn)。

第二類是價(jià)值難題。從效用上看，算法具有巨大的社會(huì)利益：在商業(yè)領(lǐng)域，算法可以快速精準(zhǔn)地判斷市場(chǎng)商業(yè)需求；在公共領(lǐng)域，算法也潛力無(wú)限。然而，從價(jià)值角度來(lái)看，算法引發(fā)一定程度的價(jià)值危機(jī)：一方面改變?nèi)说闹黧w性理解，賦予人的自由、自主選擇和決策以新的內(nèi)涵；另一方面在實(shí)踐中引發(fā)固化歧視、侵犯隱私的問(wèn)題，構(gòu)成對(duì)人之尊嚴(yán)的威脅。

以算法黑箱問(wèn)題為例，在商業(yè)領(lǐng)域，消費(fèi)平臺(tái)會(huì)基于人們的購(gòu)買記錄和消費(fèi)習(xí)慣而差別定價(jià)，這種操作的依據(jù)并不透明，消費(fèi)者也難以察覺(jué)。算法黑箱的規(guī)制難點(diǎn)在于算法決策過(guò)程完全由機(jī)器根據(jù)特定函數(shù)進(jìn)行運(yùn)轉(zhuǎn)，人力無(wú)法干預(yù)，更無(wú)法解釋算法運(yùn)轉(zhuǎn)的內(nèi)在原理。

然而，人們需要對(duì)算法的價(jià)值難題保持清醒的認(rèn)識(shí)，算法本身是技術(shù)應(yīng)用程式，其價(jià)值問(wèn)題本質(zhì)上是算法設(shè)計(jì)者和使用者利用算法損害某些價(jià)值。

第三類是歸責(zé)難題。算法應(yīng)用必然伴隨著法律責(zé)任配置，以防范風(fēng)險(xiǎn)和實(shí)施救濟(jì)。隨著人工智能的廣泛應(yīng)用，其侵權(quán)問(wèn)題也成為理論難點(diǎn)。人工智能的風(fēng)險(xiǎn)之一是算法侵權(quán)的救濟(jì)途徑難以確定。

一個(gè)典型的例子是自動(dòng)駕駛汽車致?lián)p的責(zé)任認(rèn)定問(wèn)題，汽車生產(chǎn)廠家、算法設(shè)計(jì)者和車主應(yīng)如何劃分責(zé)任，是自動(dòng)駕駛汽車進(jìn)入市場(chǎng)前須解決的問(wèn)題。此外，算法歧視的救濟(jì)也是一個(gè)復(fù)雜問(wèn)題，特別是在公共決策中，如果一個(gè)人因?yàn)樾詣e或?qū)W歷而受到自動(dòng)化行政決策的不同待遇，他能否向政府主張救濟(jì)？

算法以全新的挑戰(zhàn)形態(tài)對(duì)法律實(shí)踐產(chǎn)生沖擊。我們果真束手無(wú)策嗎？當(dāng)前有大量的研究針對(duì)算法規(guī)制提出各種形式的建議。但需要迫切回應(yīng)的基礎(chǔ)性問(wèn)題是，算法和法律之間有什么關(guān)系？算法所造成的法律挑戰(zhàn)，法律能夠有力地應(yīng)對(duì)嗎？從計(jì)算正義的角度切入這個(gè)問(wèn)題，可以挖掘出回應(yīng)這些難題的有效思路。

02 算法的價(jià)值：共同善與計(jì)算正義

理解法律與算法之關(guān)系的關(guān)鍵在于從價(jià)值上厘清二者之間的關(guān)聯(lián)。

算法的內(nèi)涵有技術(shù)和社會(huì)兩重意義。算法的技術(shù)意義并無(wú)太大爭(zhēng)議，算法是一種計(jì)算方法，通過(guò)計(jì)算公式得出確定的結(jié)果。算法的社會(huì)意義受制于科技發(fā)展水平和社會(huì)語(yǔ)境，計(jì)算機(jī)的發(fā)明和網(wǎng)絡(luò)傳輸技術(shù)的提升使得大數(shù)據(jù)收集成為可能，在此基礎(chǔ)上，算法通過(guò)對(duì)海量數(shù)據(jù)的深度學(xué)習(xí)可以實(shí)現(xiàn)自我更新和升級(jí)，最后形成更為成熟的算法。

網(wǎng)絡(luò)服務(wù)主體開(kāi)發(fā)利用特定算法（決策樹(shù)、貝葉斯算法等）并服務(wù)于社會(huì)公眾，比如信貸機(jī)構(gòu)、網(wǎng)約車、社交和外賣平臺(tái)等。除了商業(yè)外，政府也可以發(fā)揮自動(dòng)決策的優(yōu)勢(shì)，運(yùn)用算法決定行政審批，包括公共資源審核、假釋評(píng)估等。

可以看出，算法改變了社會(huì)，也創(chuàng)造了更多新的可能。但從價(jià)值角度來(lái)說(shuō)，算法的社會(huì)意義主要體現(xiàn)在算法能夠促進(jìn)共同善，即對(duì)于社會(huì)共同體的每個(gè)個(gè)體都至關(guān)重要的那些善好，比如知識(shí)、社會(huì)交往和實(shí)踐理性等等。

社交媒體可以促進(jìn)社會(huì)交往和信息交流，大大便利人們對(duì)知識(shí)的追求。算法的引入，使得人們不僅能夠更好地實(shí)現(xiàn)這些善，也改變了實(shí)現(xiàn)善的方式。比如傳統(tǒng)知識(shí)獲取方式是閱讀和教育，現(xiàn)代的知識(shí)獲取方式十分多元，網(wǎng)絡(luò)閱讀、視聽(tīng)平臺(tái)、社交媒體傳播等都是知識(shí)獲取的重要方式。

但算法并不能自動(dòng)實(shí)現(xiàn)這些基本善，人們帶著改善社會(huì)、實(shí)現(xiàn)善的意圖將算法嵌入到各種應(yīng)用場(chǎng)景之中，算法不僅參與到善的實(shí)現(xiàn)過(guò)程中——人們借助算法技術(shù)能夠更便捷地檢索知識(shí)，也能重塑知識(shí)這種價(jià)值，知識(shí)不再是關(guān)于世界的判斷和信念，也成為以計(jì)算化的方式而存在的代碼和數(shù)據(jù)。

這個(gè)過(guò)程產(chǎn)生了正義問(wèn)題。

為什么要提出計(jì)算正義？

算法是技術(shù)，通常來(lái)說(shuō)被用于實(shí)現(xiàn)某種目標(biāo)，比如設(shè)計(jì)一種視覺(jué)識(shí)別算法，用于人臉識(shí)別或者動(dòng)畫設(shè)計(jì)。算法技術(shù)與正義無(wú)關(guān)，但算法運(yùn)行在某一場(chǎng)景之中，并且對(duì)人的決策和行動(dòng)產(chǎn)生實(shí)際影響的時(shí)候，算法技術(shù)就產(chǎn)生了正義問(wèn)題。

由于算法種類千差萬(wàn)別，應(yīng)用場(chǎng)景層出不窮，算法涉及到的具體善也非常多。但整體上來(lái)說(shuō)，算法實(shí)踐最終都指向社會(huì)實(shí)踐的基本善，也引發(fā)實(shí)現(xiàn)這些善的正義問(wèn)題。

例如，招聘算法能夠幫助雇主更為精確和高效地挑選合適雇員，促進(jìn)就業(yè)，但計(jì)算過(guò)程可能會(huì)包含潛在的歧視。如果一個(gè)雇主對(duì)女性應(yīng)聘者說(shuō)：“你是女性，我不能招聘你”，顯然構(gòu)成歧視，法律可以對(duì)這種性別歧視做出回應(yīng)。但如果招聘算法在數(shù)據(jù)處理過(guò)程中包含著偏見(jiàn)，法律對(duì)這種計(jì)算化的偏見(jiàn)應(yīng)該如何回應(yīng)，卻是一個(gè)全新的問(wèn)題。

法律有各種應(yīng)對(duì)歧視（比如種族歧視、性別歧視等）的規(guī)范形式和責(zé)任原理，但在算法歧視問(wèn)題上卻左右為難。由于算法所需要的數(shù)據(jù)本身并無(wú)完美，所以算法歧視無(wú)法避免。但傳統(tǒng)意義上的反歧視法在應(yīng)對(duì)這種技術(shù)化和計(jì)算化的顯性或隱性歧視上卻束手無(wú)策。

03 算法與法律的重構(gòu)模式

社會(huì)實(shí)踐是復(fù)雜的，充滿了價(jià)值沖突和利益分歧，算法應(yīng)用在諸多方面加劇了這種復(fù)雜性。算法實(shí)踐所引發(fā)的法律挑戰(zhàn)和價(jià)值擔(dān)憂，使得對(duì)算法進(jìn)行規(guī)制成為必需。

在算法應(yīng)用出現(xiàn)問(wèn)題和引發(fā)擔(dān)憂時(shí)，很多建議往往采取傳統(tǒng)的回應(yīng)型規(guī)制視角，主張將算法納入法律監(jiān)管，通過(guò)法律對(duì)算法進(jìn)行規(guī)范。然而，規(guī)制所承載的回應(yīng)型法律姿態(tài)不足以應(yīng)對(duì)新興科技的發(fā)展步伐，因?yàn)閺膶?shí)踐來(lái)看，科技對(duì)法律的影響意義反而比法律對(duì)科技的回應(yīng)和規(guī)制更為突出。  

理解算法與法律之關(guān)系的一種理想模式是重構(gòu)模式，該模式強(qiáng)調(diào)的是法律在應(yīng)對(duì)技術(shù)挑戰(zhàn)時(shí)，應(yīng)當(dāng)對(duì)自身追求共同善的方式進(jìn)行重新梳理。這種模式并不是要改變法律的屬性，而是分析算法和法律的價(jià)值分別如何實(shí)現(xiàn)，二者之間如何契合，以及出現(xiàn)沖突時(shí)應(yīng)該如何解決。

例如，面對(duì)算法歧視時(shí)，正確的思路不是通過(guò)法律消除算法的歧視，而是分析算法歧視與傳統(tǒng)歧視有何不同，根源上是否存在差異，以及法律是否能夠展現(xiàn)出不同于傳統(tǒng)歧視防范方式的新方案。在算法的法律應(yīng)對(duì)上，重構(gòu)模式可以發(fā)揮更為實(shí)質(zhì)的作用和理論指導(dǎo)意義。

在價(jià)值上，算法既沖擊了傳統(tǒng)價(jià)值實(shí)踐方式，也重塑了價(jià)值的呈現(xiàn)形態(tài)。算法的社會(huì)意義主要體現(xiàn)在決策上，包括公共決策和私人決策。決策的主要意義在于為利益分配和社會(huì)合作提供方案，引導(dǎo)人們追求共同善。

算法追求的具體價(jià)值類型有很多，有一些價(jià)值是法律與算法共同追求的，比如效率，但兩者也存在著很多價(jià)值差異，比如算法追求決策的客觀性，法律則追求決策的公開(kāi)透明。這些差異會(huì)帶來(lái)實(shí)踐張力。例如，人的決策會(huì)受到認(rèn)知局限、價(jià)值偏好等方面的影響；算法決策則以客觀數(shù)據(jù)為素材、借助海量數(shù)據(jù)分析引導(dǎo)決策。

算法運(yùn)行是客觀的，但也會(huì)因?yàn)閿?shù)據(jù)的選擇、算法的設(shè)計(jì)而注入偏見(jiàn)和引發(fā)歧視。這種歧視不同于人為歧視，而是一種被計(jì)算化的技術(shù)偏差。因此，算法歧視的源頭不在于算法本身，而在于機(jī)器學(xué)習(xí)所使用的那些數(shù)據(jù)。機(jī)器學(xué)習(xí)必須使用人類的生活和實(shí)踐經(jīng)驗(yàn)中所積累的數(shù)據(jù)，而計(jì)算結(jié)果反過(guò)來(lái)又影響人們的實(shí)踐。

如果沒(méi)有算法的參與，人類決策和預(yù)測(cè)也會(huì)產(chǎn)生大量偏見(jiàn)。算法影響了偏見(jiàn)產(chǎn)生的方式，主要體現(xiàn)在決策過(guò)程的計(jì)算化和數(shù)據(jù)化改變了人們的價(jià)值推理方式和道德判斷形態(tài)，也帶來(lái)正義評(píng)價(jià)機(jī)制的改變。計(jì)算正義旨在揭示這種改變的社會(huì)和法律意義。算法應(yīng)用范圍的擴(kuò)展和具體應(yīng)用場(chǎng)景的實(shí)踐積累不斷重塑計(jì)算正義空間的結(jié)構(gòu)和道德內(nèi)涵。

機(jī)器學(xué)習(xí)的決策結(jié)果與傳統(tǒng)的道德判斷產(chǎn)生的社會(huì)意義不同。人的道德判斷具有一個(gè)面向?qū)嵺`的開(kāi)放性論辯結(jié)構(gòu)，比如，要判斷男性是否比女性更具有能力優(yōu)勢(shì)，可以通過(guò)道德論辯、價(jià)值衡量和實(shí)踐檢驗(yàn)加以辨析。但機(jī)器學(xué)習(xí)的技術(shù)性知識(shí)轉(zhuǎn)化（社會(huì)理解轉(zhuǎn)變?yōu)閿?shù)據(jù)輸入）、復(fù)雜化運(yùn)作（數(shù)以億萬(wàn)級(jí)的數(shù)據(jù)處理），為算法決策所承載的道德判斷賦予了全新的技術(shù)內(nèi)涵。

通過(guò)社會(huì)規(guī)范或者制度安排而表明的歧視性判斷與通過(guò)計(jì)算過(guò)程而得出的智能化偏見(jiàn)在本質(zhì)上是不同的。我們不能確定地說(shuō)算法偏見(jiàn)必須通過(guò)算法自身的技術(shù)改善而得以消除，但至少可以確定的是，如果只認(rèn)為通過(guò)法律規(guī)制能夠消除這種偏見(jiàn)，是錯(cuò)失重點(diǎn)的方向。

所以，實(shí)現(xiàn)計(jì)算正義，首先不在于解決算法運(yùn)行中的問(wèn)題，而是展示如何從法律角度理解算法所引發(fā)的價(jià)值問(wèn)題，以及構(gòu)建出這兩種“規(guī)范”之間的互動(dòng)空間。

算法與法律的重構(gòu)不是簡(jiǎn)單的功能融合，因?yàn)樗惴òl(fā)揮技術(shù)功能，而法律發(fā)揮規(guī)范功能。兩者的重構(gòu)體現(xiàn)在算法對(duì)人的行為指引可視為法律指引功能的延伸，但算法的技術(shù)價(jià)值需要由法律價(jià)值加以約束并進(jìn)行價(jià)值整合。這是一項(xiàng)復(fù)雜的技術(shù)和社會(huì)工程，同時(shí)展現(xiàn)了算法融入法律并拓展計(jì)算正義之內(nèi)涵的開(kāi)放空間。