11月2日，包括英國、美國和中國在內(nèi)的近30個國家（以及歐盟）在人工智能安全峰會上達成首個全球性人工智能安全協(xié)議，并發(fā)布了《人工智能安全宣言》，這標志著人工智能正式進入安全發(fā)展的強監(jiān)管時代。

峰會期間，人工智能意見領(lǐng)袖們就人工智能安全風(fēng)險的嚴重性判斷產(chǎn)生重大分歧，雙方陣營展開激烈辯論。人工智能教父級人物Geoffrey Hinton和Yoshua Bengio認為人工智能存在嚴重風(fēng)險，科技公司在人工智能風(fēng)險問題上撒謊以阻止競爭、規(guī)避責(zé)任，引發(fā)（同時也支持）嚴格監(jiān)管。而Andrew NG和Meta首席AI科學(xué)家Yann LeCun則認為人工智能風(fēng)險被夸大，是大型科技公司用來扼殺創(chuàng)新、鞏固權(quán)力的陰謀論。

特斯拉創(chuàng)始人馬斯克并未選擇站隊，但是在X上發(fā)帖諷刺人工智能風(fēng)險監(jiān)管和“AI軍備競賽”的矛盾現(xiàn)狀：

雖然業(yè)界對于人工智能風(fēng)險級別尚未達成共識，但Forrester Research上周發(fā)布的2024年人工智能預(yù)測報告為企業(yè)安全利用人工智能技術(shù)帶來了新的視角。該報告為可量化評估的人工智能增長制定了路線，同時警告企業(yè)領(lǐng)導(dǎo)者為猖獗的“影子AI”做好準備，因為越來越多的員工開始自行使用人工智能工具來提高工作效率。

Forrester預(yù)計，隨著企業(yè)投資可擴展的解決方案來構(gòu)建、部署和監(jiān)控人工智能模型，人工智能平臺預(yù)算將在2024年增加兩倍。然而，F(xiàn)orrester警告稱，這不足以滿足員工的需求。該報告預(yù)測60%的員工將在工作中使用自己的人工智能工具，從而帶來新的監(jiān)管和合規(guī)挑戰(zhàn)。

Forrester發(fā)現(xiàn)，85%的企業(yè)通過GPT-J和BERT等開源模型擴展AI功能，而不是僅僅依賴ChatGPT等流行的大語言模型應(yīng)用。Forrester預(yù)計40%的企業(yè)將積極投資于人工智能合規(guī)治理，領(lǐng)先于歐盟、美國和中國即將出臺的更為嚴苛的監(jiān)管法規(guī)。

人工智能進入效用時代

在創(chuàng)新方面，F(xiàn)orrester預(yù)測2024年將會有大型保險公司開始提供人工智能“幻覺保險”，承保由人工智能錯誤（AI幻覺）造成的損失和傷害。

Forrester警告企業(yè)領(lǐng)導(dǎo)者在制定人工智能應(yīng)用戰(zhàn)略時不要被炒作和“娛樂”分散注意力。

Forrester認為，2024年是“人工智能效用時代”的開始，人工智能技術(shù)將從企業(yè)的研發(fā)緩解轉(zhuǎn)移到生產(chǎn)環(huán)境的商業(yè)應(yīng)用中。

“毫無疑問，2023年將被稱為人工智能年，因為我們看到了生成式人工智能消費化的興起。發(fā)布了大量有關(guān)合并、收購、企業(yè)超高估值以及超大規(guī)模風(fēng)險投資和內(nèi)部投資的公告?！盕orrester的分析師團隊在報告中表示。

報告補充道：“我們預(yù)測，2024年將激勵企業(yè)團隊積極主動，制定有意義的人工智能戰(zhàn)略，并兌現(xiàn)人工智能承諾，同時密切關(guān)注法規(guī)和新風(fēng)險?！?/p>

Forrester對2024年人工智能安全發(fā)展的十大預(yù)測

1. 60%的員工會在工作中使用自己的人工智能工具，從而產(chǎn)生安全風(fēng)險。

2. 隨著企業(yè)對人工智能功能的需求激增，人工智能平臺的預(yù)算將增加兩倍。

3. 85%的公司將把開源人工智能模型納入其技術(shù)堆棧中。

4. 40%的企業(yè)將主動投資人工智能治理以實現(xiàn)合規(guī)性。

5. 保險公司將開始提供涵蓋人工智能錯誤的“人工智能幻覺保險”。

6. 隨著采用率的激增，生成式人工智能從2023年到2030年的復(fù)合年增長率將達到36%。

7. 企業(yè)將把人工智能從研發(fā)轉(zhuǎn)移到生產(chǎn)業(yè)務(wù)應(yīng)用。

8. 人工智能戰(zhàn)略將側(cè)重于管理影子AI使用和價值創(chuàng)造。

9. 科技領(lǐng)導(dǎo)者感受到來自員工和高管采用人工智能（BYOIA）的壓力。

10. 2024年，隨著炒作讓位于實用主義，“人工智能效用時代”將開啟。

Forrester強調(diào)制定針對性人工智能戰(zhàn)略的必要性，認為企業(yè)領(lǐng)導(dǎo)者在擴大人工智能應(yīng)用時必須主動應(yīng)對風(fēng)險，而不是被動合規(guī)，因為全球監(jiān)管格局正處于高度動態(tài)發(fā)展中。

正如四大會計師事務(wù)所之一的安永在《人工智能全球監(jiān)管格局報告》中指出的，全球性的人工智能監(jiān)管環(huán)境中仍然存在分歧和挑戰(zhàn)。歐盟在全球范圍內(nèi)采取了最積極主動的立場，提出了一項全面的人工智能法案，對生物識別或關(guān)鍵基礎(chǔ)設(shè)施等高風(fēng)險人工智能用途提出強制性要求。中國也表現(xiàn)出了監(jiān)管人工智能的較強意愿，例如內(nèi)容推薦或面部識別。相對而言，美國采取了溫和的做法，重點關(guān)注自愿性行業(yè)指導(dǎo)和針對具體行業(yè)的規(guī)則。