11月2日，包括英國(guó)、美國(guó)和中國(guó)在內(nèi)的近30個(gè)國(guó)家（以及歐盟）在人工智能安全峰會(huì)上達(dá)成首個(gè)全球性人工智能安全協(xié)議，并發(fā)布了《人工智能安全宣言》，這標(biāo)志著人工智能正式進(jìn)入安全發(fā)展的強(qiáng)監(jiān)管時(shí)代。

峰會(huì)期間，人工智能意見領(lǐng)袖們就人工智能安全風(fēng)險(xiǎn)的嚴(yán)重性判斷產(chǎn)生重大分歧，雙方陣營(yíng)展開激烈辯論。人工智能教父級(jí)人物Geoffrey Hinton和Yoshua Bengio認(rèn)為人工智能存在嚴(yán)重風(fēng)險(xiǎn)，科技公司在人工智能風(fēng)險(xiǎn)問題上撒謊以阻止競(jìng)爭(zhēng)、規(guī)避責(zé)任，引發(fā)（同時(shí)也支持）嚴(yán)格監(jiān)管。而Andrew NG和Meta首席AI科學(xué)家Yann LeCun則認(rèn)為人工智能風(fēng)險(xiǎn)被夸大，是大型科技公司用來扼殺創(chuàng)新、鞏固權(quán)力的陰謀論。

特斯拉創(chuàng)始人馬斯克并未選擇站隊(duì)，但是在X上發(fā)帖諷刺人工智能風(fēng)險(xiǎn)監(jiān)管和“AI軍備競(jìng)賽”的矛盾現(xiàn)狀：

雖然業(yè)界對(duì)于人工智能風(fēng)險(xiǎn)級(jí)別尚未達(dá)成共識(shí)，但Forrester Research上周發(fā)布的2024年人工智能預(yù)測(cè)報(bào)告為企業(yè)安全利用人工智能技術(shù)帶來了新的視角。該報(bào)告為可量化評(píng)估的人工智能增長(zhǎng)制定了路線，同時(shí)警告企業(yè)領(lǐng)導(dǎo)者為猖獗的“影子AI”做好準(zhǔn)備，因?yàn)樵絹碓蕉嗟膯T工開始自行使用人工智能工具來提高工作效率。

Forrester預(yù)計(jì)，隨著企業(yè)投資可擴(kuò)展的解決方案來構(gòu)建、部署和監(jiān)控人工智能模型，人工智能平臺(tái)預(yù)算將在2024年增加兩倍。然而，F(xiàn)orrester警告稱，這不足以滿足員工的需求。該報(bào)告預(yù)測(cè)60%的員工將在工作中使用自己的人工智能工具，從而帶來新的監(jiān)管和合規(guī)挑戰(zhàn)。

Forrester發(fā)現(xiàn)，85%的企業(yè)通過GPT-J和BERT等開源模型擴(kuò)展AI功能，而不是僅僅依賴ChatGPT等流行的大語言模型應(yīng)用。Forrester預(yù)計(jì)40%的企業(yè)將積極投資于人工智能合規(guī)治理，領(lǐng)先于歐盟、美國(guó)和中國(guó)即將出臺(tái)的更為嚴(yán)苛的監(jiān)管法規(guī)。

人工智能進(jìn)入效用時(shí)代

在創(chuàng)新方面，F(xiàn)orrester預(yù)測(cè)2024年將會(huì)有大型保險(xiǎn)公司開始提供人工智能“幻覺保險(xiǎn)”，承保由人工智能錯(cuò)誤（AI幻覺）造成的損失和傷害。

Forrester警告企業(yè)領(lǐng)導(dǎo)者在制定人工智能應(yīng)用戰(zhàn)略時(shí)不要被炒作和“娛樂”分散注意力。

Forrester認(rèn)為，2024年是“人工智能效用時(shí)代”的開始，人工智能技術(shù)將從企業(yè)的研發(fā)緩解轉(zhuǎn)移到生產(chǎn)環(huán)境的商業(yè)應(yīng)用中。

“毫無疑問，2023年將被稱為人工智能年，因?yàn)槲覀兛吹搅松墒饺斯ぶ悄芟M(fèi)化的興起。發(fā)布了大量有關(guān)合并、收購(gòu)、企業(yè)超高估值以及超大規(guī)模風(fēng)險(xiǎn)投資和內(nèi)部投資的公告?！盕orrester的分析師團(tuán)隊(duì)在報(bào)告中表示。

報(bào)告補(bǔ)充道：“我們預(yù)測(cè)，2024年將激勵(lì)企業(yè)團(tuán)隊(duì)積極主動(dòng)，制定有意義的人工智能戰(zhàn)略，并兌現(xiàn)人工智能承諾，同時(shí)密切關(guān)注法規(guī)和新風(fēng)險(xiǎn)?！?/p>

Forrester對(duì)2024年人工智能安全發(fā)展的十大預(yù)測(cè)

1. 60%的員工會(huì)在工作中使用自己的人工智能工具，從而產(chǎn)生安全風(fēng)險(xiǎn)。

2. 隨著企業(yè)對(duì)人工智能功能的需求激增，人工智能平臺(tái)的預(yù)算將增加兩倍。

3. 85%的公司將把開源人工智能模型納入其技術(shù)堆棧中。

4. 40%的企業(yè)將主動(dòng)投資人工智能治理以實(shí)現(xiàn)合規(guī)性。

5. 保險(xiǎn)公司將開始提供涵蓋人工智能錯(cuò)誤的“人工智能幻覺保險(xiǎn)”。

6. 隨著采用率的激增，生成式人工智能從2023年到2030年的復(fù)合年增長(zhǎng)率將達(dá)到36%。

7. 企業(yè)將把人工智能從研發(fā)轉(zhuǎn)移到生產(chǎn)業(yè)務(wù)應(yīng)用。

8. 人工智能戰(zhàn)略將側(cè)重于管理影子AI使用和價(jià)值創(chuàng)造。

9. 科技領(lǐng)導(dǎo)者感受到來自員工和高管采用人工智能（BYOIA）的壓力。

10. 2024年，隨著炒作讓位于實(shí)用主義，“人工智能效用時(shí)代”將開啟。

Forrester強(qiáng)調(diào)制定針對(duì)性人工智能戰(zhàn)略的必要性，認(rèn)為企業(yè)領(lǐng)導(dǎo)者在擴(kuò)大人工智能應(yīng)用時(shí)必須主動(dòng)應(yīng)對(duì)風(fēng)險(xiǎn)，而不是被動(dòng)合規(guī)，因?yàn)槿虮O(jiān)管格局正處于高度動(dòng)態(tài)發(fā)展中。

正如四大會(huì)計(jì)師事務(wù)所之一的安永在《人工智能全球監(jiān)管格局報(bào)告》中指出的，全球性的人工智能監(jiān)管環(huán)境中仍然存在分歧和挑戰(zhàn)。歐盟在全球范圍內(nèi)采取了最積極主動(dòng)的立場(chǎng)，提出了一項(xiàng)全面的人工智能法案，對(duì)生物識(shí)別或關(guān)鍵基礎(chǔ)設(shè)施等高風(fēng)險(xiǎn)人工智能用途提出強(qiáng)制性要求。中國(guó)也表現(xiàn)出了監(jiān)管人工智能的較強(qiáng)意愿，例如內(nèi)容推薦或面部識(shí)別。相對(duì)而言，美國(guó)采取了溫和的做法，重點(diǎn)關(guān)注自愿性行業(yè)指導(dǎo)和針對(duì)具體行業(yè)的規(guī)則。