《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 通信與網(wǎng)絡(luò) > 業(yè)界動(dòng)態(tài) > Facebook怎么了?技術(shù)越來(lái)越牛 卻解決不了任何問(wèn)題

Facebook怎么了?技術(shù)越來(lái)越牛 卻解決不了任何問(wèn)題

2020-11-27
來(lái)源:新浪科技綜合

只要Facebook繼續(xù)給政治強(qiáng)權(quán)人物和流行的極端主義媒體組織特殊待遇,技術(shù)上的進(jìn)步根本不可能改變?cè)摴驹愀獾墓残蜗蟆?/p>

  Facebook表示,其管理社交媒體網(wǎng)站所使用的人工智能系統(tǒng)現(xiàn)在已經(jīng)足夠強(qiáng)大,可以自動(dòng)識(shí)別網(wǎng)站上超過(guò)94%的仇恨言論,并且可以發(fā)現(xiàn)超過(guò)96%與有組織仇恨團(tuán)體有關(guān)的內(nèi)容。

  這意味著Facebook管理其網(wǎng)站的能力大幅提升,在個(gè)別情況下,其人工智能系統(tǒng)發(fā)現(xiàn)違規(guī)內(nèi)容的效率比一年前提升了五倍。

  然而,只要Facebook繼續(xù)給政治強(qiáng)權(quán)人物和流行的極端主義媒體組織特殊待遇,技術(shù)上的進(jìn)步根本不可能改變?cè)摴驹愀獾墓残蜗蟆?/p>

  最近幾周,F(xiàn)acebook遭到抨擊,因?yàn)樵诿绹?guó)總統(tǒng)唐納德·特朗普發(fā)布有關(guān)大選的言論之后,F(xiàn)acebook沒(méi)有采取更多措施阻止這些言論傳播,而特朗普的前顧問(wèn)史蒂夫·班農(nóng)在Facebook上傳播要求將兩位曾激怒總統(tǒng)的美國(guó)高級(jí)官員斬首的播客,F(xiàn)acebook也沒(méi)有將其封禁。

  Facebook后來(lái)確實(shí)將特朗普的帖子標(biāo)記為誤導(dǎo)性信息,比如他聲稱自己贏得大選的帖子,F(xiàn)acebook還在一些帖子上附上了“計(jì)票工作需要幾天或幾周才能完成”的備注。但批評(píng)者認(rèn)為,F(xiàn)acebook應(yīng)該直接將特朗普的帖子刪除或者屏蔽。另外一家社交媒體公司Twitter臨時(shí)屏蔽了特朗普競(jìng)選團(tuán)隊(duì)的官方賬號(hào)發(fā)布的新帖子,以及特朗普的顧問(wèn)在大選之前發(fā)布的帖子。Facebook稱特朗普的帖子符合其標(biāo)準(zhǔn)政策中有關(guān)“新聞價(jià)值”的豁免條款。

  Facebook CEO馬克·扎克伯格表示,班農(nóng)的帖子已經(jīng)被刪除,但這個(gè)右翼煽動(dòng)者并沒(méi)有頻繁違反公司的規(guī)定,因此不足以從Facebook平臺(tái)上將其封殺。

  Facebook首席技術(shù)官邁克·斯科洛普夫承認(rèn),增強(qiáng)公司的人工智能系統(tǒng),使其能夠監(jiān)測(cè)甚至在許多情況下可以自動(dòng)屏蔽違反公司規(guī)定的內(nèi)容,并不能完全解決公司面臨的有害內(nèi)容問(wèn)題。

  斯科洛普夫說(shuō):“我在這方面沒(méi)有天真的想法。我不會(huì)說(shuō)技術(shù)是所有問(wèn)題的解決方案?!彼硎?,F(xiàn)acebook對(duì)于社交網(wǎng)絡(luò)的管理分為三個(gè)方面:能夠識(shí)別違反公司政策的內(nèi)容的技術(shù),能夠根據(jù)信息快速采取行動(dòng)從而防止內(nèi)容產(chǎn)生影響的能力,以及政策本身。他補(bǔ)充說(shuō),在前兩點(diǎn)上,技術(shù)可以有所幫助,但它無(wú)法決定政策。

  公司越來(lái)越多地借助自動(dòng)化系統(tǒng),為15000名人類內(nèi)容審查員提供幫助。許多審查員屬于公司在全球聘請(qǐng)的承包商。今年,F(xiàn)acebook首次開(kāi)始使用人工智能確定將內(nèi)容交由人類審查員審查的順序,由審查員確定將其保留還是刪除。人工智能軟件會(huì)根據(jù)內(nèi)容可能違反政策的嚴(yán)重性以及內(nèi)容在Facebook的社交網(wǎng)絡(luò)上傳播的可能性,確定內(nèi)容的優(yōu)先順序。

  斯科洛普夫表示,該系統(tǒng)的目的是盡量限制Facebook所說(shuō)的“流行度”,這個(gè)指標(biāo)大體上可以理解成會(huì)有多少用戶可能看到一條內(nèi)容或者與內(nèi)容互動(dòng)。

  該公司還迅速在其內(nèi)容審查系統(tǒng)中部署了多種由其內(nèi)部研究人員開(kāi)發(fā)的尖端人工智能技術(shù)。其中有一款軟件可以翻譯100種語(yǔ)言,無(wú)需使用一種通用中間語(yǔ)言。這款軟件幫助公司的人工智能打擊仇恨言論和失實(shí)信息,尤其是以不常見(jiàn)的語(yǔ)言書寫的言論,因?yàn)檫@些語(yǔ)言的人類內(nèi)容審查員遠(yuǎn)遠(yuǎn)不足。

  斯科洛普夫表示,公司在“相似度匹配”方面取得了巨大進(jìn)步。相似性匹配會(huì)確定一條新內(nèi)容與因?yàn)檫`反Facebook政策已經(jīng)被刪除的另一條內(nèi)容是否基本相似。他列舉了與新冠疫情有關(guān)的失實(shí)信息的例子。當(dāng)時(shí)有帖子謊稱外科醫(yī)用口罩中含有已知的致癌物,經(jīng)過(guò)人類事實(shí)核查員評(píng)估之后這些帖子被刪除,第二條帖子使用了略有不同的語(yǔ)言和類似但并不完全相同的口罩圖片,也被人工智能系統(tǒng)識(shí)別出來(lái)并自動(dòng)屏蔽。

  他還表示,許多系統(tǒng)現(xiàn)在擴(kuò)充到了“多模態(tài)”領(lǐng)域,可以結(jié)合文本與圖片或視頻進(jìn)行分析,有時(shí)候也會(huì)結(jié)合語(yǔ)音。Facebook有專門的軟件用于監(jiān)測(cè)具體類型的惡意內(nèi)容,比如識(shí)別廣告垃圾郵件的軟件和識(shí)別仇恨言論的軟件等,同時(shí)它還推出了一個(gè)新系統(tǒng)“整個(gè)帖子完整性嵌入”(簡(jiǎn)稱“WPie”),這款軟件可以識(shí)別各種各樣不同類型的政策違規(guī)情況,不需使用各類違規(guī)的大量實(shí)例進(jìn)行培訓(xùn)。

  另外,F(xiàn)acebook還利用研究競(jìng)賽,幫助其開(kāi)發(fā)更強(qiáng)大的內(nèi)容審查人工智能。去年,F(xiàn)acebook公布的競(jìng)賽結(jié)果顯示,研究人員開(kāi)發(fā)出可自動(dòng)識(shí)別深度偽造視頻的軟件。深度偽造視頻本身也是使用機(jī)器學(xué)習(xí)技術(shù)開(kāi)發(fā)的高度逼真的虛假視頻。Facebook目前的競(jìng)賽,旨在找到檢測(cè)仇恨模因的最佳算法。這次競(jìng)賽極具挑戰(zhàn)性,因?yàn)橐粋€(gè)成功的系統(tǒng)需要理解模因中的圖片和文字對(duì)意義的影響,甚至需要理解模因本身不存在的大量語(yǔ)境。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。