11 月 14 日消息,The Information 上周末報(bào)道稱,生成式 AI 模型的快速發(fā)展似乎正在遭遇瓶頸。一些專家預(yù)測,簡單地通過增加模型參數(shù)、訓(xùn)練數(shù)據(jù)和算力來提升模型性能的方法已經(jīng)逐漸失效,甚至可能帶來負(fù)面影響。
OpenAI 的最新旗艦?zāi)P?Orion 就是一個(gè)例證。據(jù)報(bào)道,與 GPT-4 相比,Orion 的性能提升并不顯著,甚至在某些領(lǐng)域如編碼方面可能沒有任何進(jìn)步。
Safe Superintelligence 創(chuàng)始人、OpenAI 聯(lián)合創(chuàng)始人 Ilya Sutskever 也表示,單純通過擴(kuò)大模型規(guī)模來提升性能的策略已經(jīng)觸及天花板。
對此,OpenAI CEO 薩姆?阿爾特曼(Sam Altman)剛剛在 X 平臺作出回應(yīng)稱:“沒有墻(there is no wall)?!卑凳?AI 發(fā)展沒有遇到瓶頸。
相關(guān)消息引發(fā)了對 AI 行業(yè)泡沫的擔(dān)憂。認(rèn)知科學(xué)家、AI 懷疑論者 Gary Marcus 警告稱,一旦行業(yè)意識到這些局限性,整個(gè)行業(yè)可能會崩潰。他指出,高估值 AI 公司如 OpenAI 和微軟的估值很大程度上基于 LLM(大型語言模型)通過持續(xù)發(fā)展成為 AGI(通用人工智能)的假設(shè),而這只是一個(gè)幻想。
如果行業(yè)無法迅速找到突破瓶頸的方法,可能會面臨新的“AI 寒冬”。經(jīng)濟(jì)市場往往缺乏耐心,一旦投資者意識到 AI 行業(yè)的盈利能力存在問題,可能會導(dǎo)致泡沫破裂。