Facebook新母公司Meta的人工智能副總裁杰羅姆·佩森蒂(Jerome Pesenti)周二在一篇博客文章中表示:“這一決定將是歷史上人臉識別技術(shù)最大的轉(zhuǎn)變之一。關(guān)閉面部識別系統(tǒng)將導(dǎo)致超過10億用戶的個人面部識別信息被刪除?!?/p>
權(quán)衡利弊
杰羅姆·佩森蒂表示,他們之所以做出改變,是因為面部識別技術(shù)引發(fā)了人們越來越多的擔(dān)憂。他還補充,該公司仍然認(rèn)為人臉識別是一個強(qiáng)大的工具,但“每一項新技術(shù)都有兩面性,我們希望找到正確的平衡。”
佩森蒂說,這些變化可能會對視障群體產(chǎn)生負(fù)面影響?!澳軌蚋嬖V盲人或視力受損的用戶,照片上有他們的高中朋友或前同事,這是有價值的,他們也能夠更容易地訪問社交媒體。”
Automatic Alt Text(AAT)是Facebook為視障和盲人用戶創(chuàng)建的圖像描述技術(shù)。雖然AAT仍然能夠識別出照片中的人數(shù),但它將不再使用面部識別功能來識別照片中的每個人。
但Facebook仍將在小范圍內(nèi)使用該人臉識別,用戶可以通過人臉識別解開自己被鎖定的賬戶,或在使用其金融產(chǎn)品時通過人臉識別驗證身份。他表示,監(jiān)管機(jī)構(gòu)仍在制定一套明確的規(guī)則來監(jiān)管這項科技,在這一過程依舊存在不確定性之際,該公司認(rèn)為把人臉識別的使用限制在小范圍的用例上是適當(dāng)?shù)摹?/p>
此外,F(xiàn)acebook的母公司Meta似乎正在研究識別用戶身份的新形式。佩森蒂說,公司試圖從這種廣泛的身份認(rèn)證轉(zhuǎn)向更狹義的個人身份認(rèn)證。佩森蒂表示:“在個人的設(shè)備上進(jìn)行私人操作時,面部識別尤其有價值。這種個人設(shè)備上的面部識別不需要與外部服務(wù)器進(jìn)行面部數(shù)據(jù)通信,是目前用于解鎖智能手機(jī)的常用方法。”
監(jiān)管壓力
圣母大學(xué)(University of Notre Dame)技術(shù)倫理學(xué)教授克里斯汀·馬?。↘risten Martin)認(rèn)為,這一決定“對用戶和公司都有利”。她表示,這一舉措也顯示了監(jiān)管壓力的力量,因為人臉識別系統(tǒng)已經(jīng)受到了十多年的嚴(yán)厲批評。
民主與技術(shù)中心(Center for Democracy and Technology)安全與監(jiān)控項目的聯(lián)合主管莎倫·布拉德福德·富蘭克林(Sharon Bradford Franklin)表示,人臉識別是一個「技術(shù)發(fā)展速度」快于「相關(guān)法規(guī)完善」的領(lǐng)域。
使用面部識別技術(shù)時的種族偏見是一個令人擔(dān)憂的問題。多年來,研究人員和隱私專業(yè)人士一直在對這項技術(shù)提出質(zhì)疑,他們援引的研究發(fā)現(xiàn),在涉及種族、性別或年齡界限的情況下,這項技術(shù)發(fā)揮的作用并不穩(wěn)定,與白人面孔相比,黑人和棕色面孔的誤認(rèn)率要高得多。此前就有過相關(guān)報道,F(xiàn)acebook的人工智能在一段有關(guān)黑人的視頻上誤貼“靈長類”標(biāo)簽。
面部識別技術(shù)近年來有所進(jìn)步,有越來越多的執(zhí)法機(jī)構(gòu)也在使用,這促使隱私專家呼吁對其進(jìn)行監(jiān)管。政府問責(zé)局8月份的一份報告發(fā)現(xiàn),在接受調(diào)查的24個聯(lián)邦機(jī)構(gòu)中,有18個機(jī)構(gòu)報告稱使用了面部識別功能,約10個機(jī)構(gòu)計劃到2023年擴(kuò)大使用范圍。
隱私專家稱贊Facebook的這項決定是朝正確方向邁出的重要一步。
倫理問題清算
美國一些城市已經(jīng)采取行動,禁止警方和其他市政部門使用面部識別軟件。2019年,舊金山率先宣布這項技術(shù)非法。
由于擔(dān)心侵犯公民權(quán)利、侵犯隱私和種族歧視,約有7個州和近20個城市限制了政府機(jī)構(gòu)對該技術(shù)的使用。
Facebook此舉正值科技行業(yè)使用人臉識別技術(shù)在倫理問題上面臨清算之際。目前為止,IBM已經(jīng)永久性終止人臉識別產(chǎn)品的銷售,微軟和亞馬遜已經(jīng)無限期暫停向警方出售人臉識別技術(shù)。