6月12日消息,近日,復(fù)旦大學(xué)NLP(自然語言處理)實驗室LLMEVAL團隊發(fā)布了2024年高考數(shù)學(xué)大模型評測的結(jié)果。
在這次評測中,阿里千問和訊飛星火分別獲得了2024高考數(shù)學(xué)新I卷的第一名和第二名,以及高考數(shù)學(xué)新II卷的第二名和第一名,兩份考卷的評測中,GPT-4o均列第三名。
復(fù)旦NLP團隊認(rèn)為,全新出爐的高考試題具備高度的獨創(chuàng)性和保密性,是用來評測大模型的絕好評測集合。在新Ⅰ卷中,阿里千問和訊飛星火對14道數(shù)學(xué)客觀題的準(zhǔn)確率達(dá)到70%以上,大幅領(lǐng)先GPT-4o的57%,字節(jié)豆包、智譜清言、百川等大模型緊隨其后,準(zhǔn)確率超過50%,百度文心一言、騰訊元寶、Kimi等大模型準(zhǔn)確率較低。
而在在新Ⅱ卷的評測中,訊飛星火、阿里千問、GPT-4o準(zhǔn)確率均超過60%,其他大模型的差距較小,除百川、DeepSeek和海螺之外,準(zhǔn)確率均在50%以上。
數(shù)學(xué)能力是GPT-4o一直以來引以為傲的能力模塊,OpenAI在5月14日的發(fā)布會上推出大語言模型GPT-4o時,曾重點演示其數(shù)學(xué)能力。
在現(xiàn)場演示中,GPT-4o利用其實時的圖像識別和語音能力進行在線教學(xué)。從評測結(jié)果可以看出,阿里千問和訊飛星火對數(shù)學(xué)問題的深入理解和分析能力已經(jīng)超過GPT-4o,使其在高考數(shù)學(xué)試題的解答上具有更高的準(zhǔn)確率。有網(wǎng)友表示,做數(shù)學(xué)題畢竟還是咱中國人的特長。
以阿里千問和訊飛星火為代表,國產(chǎn)人工智能大模型在數(shù)學(xué)領(lǐng)域的出色能力,為未來人工智能技術(shù)在教育領(lǐng)域的應(yīng)用提供了有力支持。