近日，商湯科技所提出「發(fā)展」的AI倫理觀，從人的角度出發(fā)。與早期的「AI倫理」不同，商湯所提出的發(fā)展AI倫理觀，不僅強調(diào)對技術(shù)負面影響的約束，還強調(diào)人工智能對社會與個人的正向價值。

更重要的是，商湯認為，在發(fā)展與落地人工智能技術(shù)的過程中，「AI倫理」要考慮行業(yè)變革的飛快性，在技術(shù)發(fā)展的不同階段采取不同治理框架，實現(xiàn)社會的發(fā)展平衡。

簡而言之，就是：緊跟時代，以人為本，既要「揚善」，也要「除惡」。

01. AI治理的復(fù)雜性

近幾年，隨著人工智能在日常生活中的不斷滲入，這項神奇的技術(shù)也逐漸向世人展示了自己的正邪兩面。

先看「善」的一面。

這兩年，新冠疫情爆發(fā)，被廣泛使用的無感測溫、無感通行，便是基于感知識別的人工智能技術(shù)。嫁接于各個計算機軟硬件的AI技術(shù)，如智能圖像處理、便捷支付、對話機器人等等，也極大地便利了人們的日常生活。

舉個例子。此前商湯也研發(fā)智能避障眼鏡，幫助視力障礙者在戶外行走時獲得交通信號、環(huán)境障礙物等語音提示，改善視障人士的生活。

人工智能不僅在實際的應(yīng)用中帶來了極為直觀的價值，在學(xué)術(shù)研究上也產(chǎn)生了令人矚目的影響。比如，前段時間，DeepMind用機器學(xué)習(xí)證明了兩大困擾人類科學(xué)家數(shù)十年的數(shù)學(xué)猜想，登頂Nature。人工智能學(xué)家將AI與物理、生物、化學(xué)等基礎(chǔ)研究相結(jié)合、并取得卓越成果的例子亦不勝枚舉。

但與此同時，由于深度學(xué)習(xí)算法的「黑盒子」特征，以及人工智能系統(tǒng)在現(xiàn)實生活落地中所體現(xiàn)的不穩(wěn)定性、不可控性等，誤用、或濫用人工智能給人類社會帶來的傷害也不容小覷。

在這樣的背景下，建立AI的倫理體系實為大勢所趨。為了促進AI技術(shù)的良性發(fā)展，各方力量承擔起了不同的角色。比方說，據(jù)聯(lián)合國統(tǒng)計，全球目前一共出臺了超過150份有關(guān)AI治理的報告方案，學(xué)術(shù)界也掀起了「可信AI」、「負責(zé)任AI」與「AI向善」等多個新興話題的研究熱潮。

那么，科技公司應(yīng)該如何承擔起AI可持續(xù)發(fā)展的責(zé)任？作為AI產(chǎn)業(yè)的先行者，商湯有自己的思考。

首先，AI技術(shù)要不要發(fā)展？答案無疑是肯定的。正如商湯科技副總裁、商湯人工智能倫理委員會的主席楊帆所說：

「解決技術(shù)倫理最簡單直接的方法，看起來似乎是不搞技術(shù)創(chuàng)新，那么自然就不會存在數(shù)字科技的諸多問題。然而，國家要發(fā)展，社會要進步，人們的生活質(zhì)量要改善。前沿科技的發(fā)展對家、國、天下都非常重要。如果有顧慮就放棄發(fā)展，就是因噎廢食。」

「技術(shù)發(fā)展與技術(shù)治理，本身就是制約與平衡的關(guān)系，韁繩勒得太早、勒得太死，會制約技術(shù)的發(fā)展；在技術(shù)演進的過程中，適時地收一收繩子、收住技術(shù)的底線和邊界，才能讓技術(shù)發(fā)展與應(yīng)用，走得快、走得遠。如今，AI已經(jīng)走出實驗室，隨著AI通用大裝置的日漸發(fā)展，機器猜想將帶給我們更多的可能，倫理治理由此將更為重要?！?/p>

楊帆還表示：「沒有理論可以完美解釋技術(shù)，但我們要了解技術(shù)應(yīng)用的邊界。通過AI倫理治理，既是規(guī)避AI技術(shù)的負面影響，引導(dǎo)技術(shù)的正向發(fā)展，推動公司與行業(yè)的可持續(xù)發(fā)展；同時，這也是業(yè)內(nèi)領(lǐng)先公司、以及所有AI從業(yè)者們所應(yīng)當承擔的社會責(zé)任?！?/p>

從成立之初，商湯的使命便一直沒有改變：堅持原創(chuàng)，讓AI引領(lǐng)人類進步。也就是說，在商湯將AI落地的過程中，AI的服務(wù)對象不應(yīng)該局限于一個特定的群體，而應(yīng)該面向整個人類社會。

楊帆提出，AI治理是一個多目標、多維度的平衡過程。比如，防疫期間，保護集體利益的目標與尊重個人行程隱私的目標要權(quán)衡；健康碼快速人群分類進行針對性防治與老年人數(shù)碼產(chǎn)品使用問題要權(quán)衡等等。

多維目標的權(quán)衡，意味著AI治理的難度在增加。為此，商湯倫理委員會整理國際主流的治理觀點、以及產(chǎn)業(yè)一線的實踐經(jīng)驗，提出了AI治理的三大核心：技術(shù)可控、以人為本與可持續(xù)發(fā)展。具體來說，每個核心的表現(xiàn)大約如下：

可持續(xù)發(fā)展：保護環(huán)境、保護和平、包容共享、開放協(xié)作、社會認知、敏捷治理……

以人為本：保護人權(quán)、保護隱私、人類可控、公平無歧視、造福人類……

技術(shù)可控：可驗證、可審查、合法性、可信任、可解釋、安全可靠、公開透明、負責(zé)任……

制度式的「技術(shù)可控」

值得注意的是，商湯科技在「AI倫理」的參與過程中，不僅是停留在倡議或報告類的書面工作上。商湯的「關(guān)鍵行動」，是率先將「AI倫理」的治理工作貫徹在產(chǎn)品與業(yè)務(wù)的運營過程中，使之成為商湯企業(yè)管理中的一環(huán)。

2020年1月，商湯成立了人工智能倫理委員會，從企業(yè)的組織架構(gòu)上滲透「AI治理」的觀念。

對內(nèi)，委員會審核商湯的所有落地產(chǎn)品線，對員工進行倫理通識培訓(xùn)，提高員工在日常工作中的倫理意識；對外，與其他組織合作，共同開展AI倫理的研究工作。

為了保證委員會所作決策的客觀與中立，該倫理委員會有一條硬性規(guī)定，即外部委員不能少于1/3的席位。

今年上半年，該委員會上線了倫理審核系統(tǒng)，從實際的運營「把關(guān)」中踐行了「技術(shù)可控」的核心AI治理原則。

該線上系統(tǒng)的設(shè)置，結(jié)合參考了國內(nèi)外在技術(shù)倫理方面眾多的政策制度和研究成果。審核體系從數(shù)據(jù)風(fēng)險、算法風(fēng)險與社會風(fēng)險三大維度出發(fā)，設(shè)置十余個板塊，近30道題目，從尊重人權(quán)、向善性、無偏性、隱私保護、可靠性、透明及可解釋性、問責(zé)性等等角度，對項目進行詳細拆解，考察其倫理水平。

目前，倫理審核已經(jīng)嵌入商湯立項審核流程，進行線上評審，并根據(jù)評分對被審核的產(chǎn)品進行風(fēng)險等級劃分。對于倫理風(fēng)險較高的產(chǎn)品，該系統(tǒng)會予以駁回，提出中斷開發(fā)、下線或整改的要求。若無法通過整改，則不予以立項上市。

比如，曾經(jīng)有「AI算命」的客戶提出用計算機視覺技術(shù)識別人體特征、手掌掌紋等信息，自動給出用戶的人生運勢等預(yù)測。識別這些信息和特征，技術(shù)上來說并不難，但這顯然不符合價值觀，即使預(yù)見可以有所收益，這樣的項目也無法立項成型。

楊帆的看法是：「技術(shù)有所不為，而后才能有所為。」雖然一個高盈利的AI產(chǎn)品可能會因為風(fēng)險問題被淘汰、從而對公司營收會造成直接影響，但從長遠的角度來看，這是必要的。

目前，這套系統(tǒng)已經(jīng)全面覆蓋商湯存量產(chǎn)品與新增申請立項產(chǎn)品，形成了內(nèi)部的產(chǎn)品項目從立項、發(fā)布、運營全生命周期的倫理風(fēng)險控制機制。倫理審核結(jié)果會伴隨產(chǎn)品研發(fā)和發(fā)布的全過程，若發(fā)布階段產(chǎn)品有重大變化，則需要重新審核說明。

據(jù)商湯披露，從該系統(tǒng)上線至今，已有 10% 的產(chǎn)品被責(zé)令整改或下線；在對新增項目審核中，有 5% 的項目被打回整改，或駁回立項，累計放棄價值數(shù)百萬的商業(yè)利益。

「光有概念、有想法是不夠的，AI倫理治理既需要高屋建瓴的指引原則，也需要具體而微的評估指標。系統(tǒng)的建立就是根據(jù)這些指標維度建構(gòu)人工智能倫理風(fēng)險評估體系，將指標具體化、操作化，為企業(yè)的技術(shù)治理與風(fēng)險管控提供支持?！箺罘硎荆?/p>

而在實踐中，AI倫理管理系統(tǒng)，通過系統(tǒng)的方式將風(fēng)險識別、評估、處理、 監(jiān)控及匯報等各環(huán)節(jié)都進行了覆蓋，明確各產(chǎn)品全生命周期中各個主體的風(fēng)險管控責(zé)任，讓技術(shù)可控有章可循、有規(guī)可依、有據(jù)可查?！?/p>

今年11月，商湯因倫理方面前瞻性思考和實踐，獲得了《哈佛商業(yè)評論》2021年度拉姆·查蘭管理實踐獎。這也是國內(nèi)首個因為在技術(shù)倫理與治理方面的實踐而獲得的頂尖商學(xué)院媒體授予的企業(yè)。

03. 「發(fā)展」的AI倫理觀

「技術(shù)可控」并非目的，而是手段。

說到底，人工智能企業(yè)在技術(shù)創(chuàng)新中「有所不為」的最終目標，不是為了停止人工智能技術(shù)的研究與創(chuàng)新，而是以一種良性的、可持續(xù)的方式在現(xiàn)實生活中發(fā)展人工智能，緊跟時代需求，使其為人類、為社會造福。

今年，在倫理審核之外，商湯也繼續(xù)保持其在人工智能技術(shù)上的創(chuàng)新，推出AI大裝置等人工智能基礎(chǔ)設(shè)施，「倫理治理」與「技術(shù)創(chuàng)新」雙管齊下，為行業(yè)做貢獻。

「無論是技術(shù)本身、還是技術(shù)治理上，商湯都是開放而堅定的長期主義者。AI倫理治理是一個需要持續(xù)關(guān)注與投入的話題。人工智能倫理的發(fā)展，需要多方合作、共同探索。」

據(jù)了解，目前，商湯科技已與清華大學(xué)人工智能國際治理研究院、上海交通大學(xué)、上海人工智能實驗室、上?？茖W(xué)學(xué)所、數(shù)據(jù)法盟等共10家機構(gòu)展開合作，圍繞敏捷治理、數(shù)據(jù)安全、人工智能算法的可解釋性等方面開展聯(lián)合研究，平均每年推動五個專項課題的研究，產(chǎn)出10+專項研究報告。

當越來越多力量參與其中，「AI倫理」就不再只是一句口號，而會演化成實際的行動，貫徹人工智能的發(fā)展始終，最終推動人工智能在人類社會的全面落地。彼時，人類與AI才算得上是真正的「和諧共存」。而這，也正是「發(fā)展」AI倫理觀的愿景所在。