9月14日，OpenAI承認(rèn)，其最新AI推理模型o1“顯著”增加了AI被濫用于制造生物武器的風(fēng)險(xiǎn)。

OpenAI的系統(tǒng)卡是一種解釋AI如何運(yùn)作的工具。該工具表示，新模型對(duì)化學(xué)武器、生物武器、放射性武器和核武器(CBRN)相關(guān)問(wèn)題的風(fēng)險(xiǎn)為“中等”，這是OpenAI有史以來(lái)給出的最高風(fēng)險(xiǎn)。OpenAI表示，這意味著該模型“顯著提高了”專家制造生物武器的能力。

專家稱，如果具備更先進(jìn)功能的AI軟件落在危險(xiǎn)分子手中，這會(huì)帶來(lái)更高的濫用風(fēng)險(xiǎn)。例如，o1模型就具備了逐步推理能力。

OpenAI首席技術(shù)官米拉·穆拉蒂(Mira Murati)向英國(guó)《金融時(shí)報(bào)》表示，由于o1模型具備了先進(jìn)功能，該公司在向公眾推出它時(shí)特別“謹(jǐn)慎”。她補(bǔ)充說(shuō)，這個(gè)模型已經(jīng)被所謂的“紅隊(duì)”(各個(gè)科學(xué)領(lǐng)域的專家)測(cè)試過(guò)。穆拉蒂表示，o1模型在整體安全指標(biāo)上的表現(xiàn)遠(yuǎn)遠(yuǎn)好于之前的模型。