向來站隊人工智能威脅論的硅谷 “鋼鐵俠”馬斯克,這次在程序員隊伍里找到了支持。
當?shù)貢r間9月13日,馬斯克在自己的個人推特賬號上轉(zhuǎn)推了一篇名為《Hackers Have Already Started to Weaponize Artificial Intelligence》(編譯:黑客們已經(jīng)開始武器化人工智能)的文章。
在這篇文章的開頭,提到了去年的一個實驗。當時,來自安全公司ZeroFOX的兩位數(shù)據(jù)科學家進行了一次實驗,他們希望看看人類和人工智能相比,究竟誰更容易讓推特用戶點擊惡意鏈接。于是,研究人員讓人工智能研究社交網(wǎng)絡用戶的行為,然后設計并實施自己的網(wǎng)絡釣魚誘餌。從測試結果,人工智能程序比人類要領先很多。
這個名為SNAP_R的人工智能,以每分鐘6.75條推特的速度向800多名用戶發(fā)送了惡意鏈接,最后成功讓275位用戶上當受騙。相比之下,參加實驗的人員每分鐘只能推出1.075條推文,最后做了129次嘗試,吸引了49位用戶。
幸運的是,這只是一個實驗,但實驗表明,黑客已經(jīng)能夠使用人工智能來進行惡意攻擊。事實上,他們可能已經(jīng)在使用了,只是很難證明。
埃隆·馬斯克
馬斯克擔心的人工智能威脅論還在程序員隊伍里找到了印證。今年7月份,在黑帽安全技術大會(Black Hat Conference)上,數(shù)百名領先的網(wǎng)絡安全專家聚集在拉斯維加斯,他們已經(jīng)開始討論人工智能和新技術帶來的隱患。在一項調(diào)查中,被問及在未來一年內(nèi)黑客是否會使用人工智能進行攻擊,62%的與會受訪者給出了肯定的答案。
Cylance安全數(shù)據(jù)公司科學家Brian Wallace更是在這篇文章中指出說:“黑客一直在使用人工智能作為武器。這是非?,F(xiàn)實,因為黑客需要解決規(guī)模問題,他們試圖盡可能多的攻擊更多的目標,同時盡量減少對自己的風險。那人工智能和機器學習就是他們最終使用的完美工具。這些工具可以決定要攻擊的人、攻擊者、何時攻擊等等?!?/p>
這個結果也與馬斯克所擔心的不謀而合。就在9月初,馬斯克就在推特上提到過,“戰(zhàn)爭可能不是由國家的領導人發(fā)動,而是由人工智能發(fā)動——只要它認為先發(fā)制人的打擊是取得勝利最為有效的方式?!?/p>
此外,就在上個月,馬斯克聯(lián)合上百名人工智能行業(yè)的高管向聯(lián)合國建言:禁止發(fā)展致命性自主武器,阻止高科技軍備競賽。
包括馬斯克、谷歌DeepMind創(chuàng)始人Mustafa Suleyman、丹麥Universal Robotics創(chuàng)始人等共計116人在公開信上簽名,敦促聯(lián)合國闡明致命性自主武器,即“殺手機器人”帶來的挑戰(zhàn),并且在全球范圍內(nèi)禁止使用這類武器。