名曰Figure 01,它能聽會(huì)說,動(dòng)作靈活。
能和人類描述眼前看到的一切:
我在桌子上看到了一個(gè)紅色的蘋果,瀝水架上面還有幾個(gè)盤子和一個(gè)杯子;然后你站在附近,手放在桌子上。
聽到人類說“想吃東西”,就馬上遞過去蘋果。
而且對(duì)于自己做的事有清楚認(rèn)知,給蘋果是因?yàn)檫@是桌上唯一能吃的東西。
還順便把東西整理,能同時(shí)搞定兩種任務(wù)。
最關(guān)鍵的是,這些展示都沒有加速,機(jī)器人本來的動(dòng)作就這么迅速。
接下來,我們繼續(xù)來看下Figure 01的細(xì)節(jié)。
OpenAI視覺語言大模型加持
根據(jù)創(chuàng)始人的介紹,F(xiàn)igure 01通過端到端神經(jīng)網(wǎng)絡(luò),可以和人類自如對(duì)話。
基于OpenAI提供的視覺理解和語言理解能力,它能完成快速、簡單、靈巧的動(dòng)作。
模型只說是一個(gè)視覺語言大模型,是否為GPT-4V不得而知。
它還能規(guī)劃動(dòng)作、有短期記憶能力、用語言解釋它的推理過程。
如對(duì)話里說“你能把它們放在那里嗎?”
“它們”、“那里”這種模糊表述的理解,就體現(xiàn)了機(jī)器人的短期記憶能力。
它使用了OpenAI訓(xùn)練的視覺語言模型,機(jī)器人攝像頭會(huì)以10Hz拍下畫面,然后神經(jīng)網(wǎng)絡(luò)將以200Hz輸出24自由度動(dòng)作(手腕+手指關(guān)節(jié)角度)。
具體分工上,機(jī)器人的策略也很像人類。
復(fù)雜動(dòng)作交給AI大模型,預(yù)訓(xùn)練模型會(huì)對(duì)圖像和文本進(jìn)行常識(shí)推理,給出動(dòng)作計(jì)劃;
簡單動(dòng)作如抓起塑料袋(抓哪里都可以),機(jī)器人基于已學(xué)習(xí)的視覺-動(dòng)作執(zhí)行策略,可以做出一些“下意識(shí)”的快速反應(yīng)行動(dòng)。
同時(shí)全身控制器會(huì)負(fù)責(zé)保持機(jī)身平衡、運(yùn)動(dòng)穩(wěn)定。
除了最先進(jìn)的AI模型,F(xiàn)igure 01背后公司——Figure的創(chuàng)始人兼CEO還在推文中提到,F(xiàn)igure方面整合了機(jī)器人的所有關(guān)鍵組成。
包括電機(jī)、中間件操作系統(tǒng)、傳感器、機(jī)械結(jié)構(gòu)等,均由Figure工程師設(shè)計(jì)。
據(jù)了解,這家機(jī)器人初創(chuàng)公司在2周前才正式宣布和OpenAI的合作,但才13天后就帶來如此重磅成果。不少人都開始期待后續(xù)合作了。
由此,具身智能領(lǐng)域又有一顆新星走到了聚光燈下。
“將人形機(jī)器人帶進(jìn)生活”
說到Figure,這家公司創(chuàng)立于2022年,正如前文所言,再次引爆外界關(guān)注,就在十幾天前——
官宣在新一輪融資中籌集6.75億美元,估值沖到26億美元,投資方幾乎要集齊半個(gè)硅谷,包括微軟、OpenAI、英偉達(dá)和亞馬遜創(chuàng)始人貝佐斯等等。
更重要的是,OpenAI同時(shí)公開了與Figure更進(jìn)一步合作的計(jì)劃:將多模態(tài)大模型的能力擴(kuò)展到機(jī)器人的感知、推理和交互上,“開發(fā)能夠取代人類進(jìn)行體力勞動(dòng)的人形機(jī)器人”。
用現(xiàn)在最熱的科技詞匯來說,就是要一起搞具身智能。