《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > OpenAI發(fā)布GPT-4o模型卡

OpenAI發(fā)布GPT-4o模型卡

概述AI安全和風險緩解措施
2024-08-12
來源:IT之家

8 月 10 日消息,OpenAI 公司于 8 月 8 日發(fā)布報告,概述了 GPT-4o 模型的系統(tǒng)卡(System Card),介紹了包括外部紅隊(模擬敵人攻擊)、準備框架(Preparedness Framework)在內的諸多細節(jié)。

OpenAI 表示 GPT-4o 模型的核心就是準備框架(Preparedness Framework),這是一種評估和降低人工智能系統(tǒng)相關風險的系統(tǒng)方法。IT之家從報道中獲悉,該框架主要用于識別網(wǎng)絡安全、生物威脅、說服和模型自主性等領域的潛在危險。

0.png

除了針對 GPT-4 和 GPT-4V 進行的安全評估和緩解措施外,OpenAI 還針對 GPT-4o 的音頻功能開展了更多安全工作。

評估的風險包括揚聲器識別、未經授權的語音生成、受版權保護內容的潛在生成、無根據(jù)推斷以及不允許的內容。基于這些評估結果,OpenAI 在模型和系統(tǒng)層面都實施了保障措施。

OpenAI 還與 100 多名外部紅隊人員合作,在向公眾發(fā)布模型之前對其進行評估。紅隊人員將進行探索性的能力發(fā)現(xiàn),評估模型帶來的新的潛在風險,并對緩解措施進行壓力測試。


Magazine.Subscription.jpg

本站內容除特別聲明的原創(chuàng)文章之外,轉載內容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。