9月25日舉辦的阿里2019云棲大會(huì)上,阿里巴巴集團(tuán)首席技術(shù)官兼阿里云智能總裁張建鋒宣布正式推出阿里首款AI芯片“含光800”。同時(shí)張建鋒還宣布,基于含光800的AI云服務(wù)正式上線,性?xún)r(jià)比可提升100%
據(jù)介紹,在業(yè)界標(biāo)準(zhǔn)的ResNet-50測(cè)試中,含光800推理性能達(dá)到78563IPS,比目前業(yè)界最好的AI芯片性能高4倍;能效比500IPS/W,是第二名的3.3倍。
得益于軟硬件的協(xié)同創(chuàng)新,含光800性能才會(huì)如此強(qiáng)大。在硬件層面,含光800采用自研芯片架構(gòu),通過(guò)推理加速等技術(shù)有效解決芯片性能瓶頸問(wèn)題;在軟件層面,集成了達(dá)摩院最先進(jìn)的算法,針對(duì)CNN及視覺(jué)類(lèi)算法深度優(yōu)化計(jì)算、存儲(chǔ)密度,可大幅提升視覺(jué)計(jì)算效率,以及實(shí)現(xiàn)大網(wǎng)絡(luò)模型在一顆NPU上完成計(jì)算。
目前,含光800已開(kāi)始廣泛應(yīng)用在阿里巴巴內(nèi)部核心業(yè)務(wù)中。在現(xiàn)場(chǎng)演示中,可以看到杭州城市大腦中實(shí)時(shí)處理杭州主城區(qū)交通視頻需要40顆傳統(tǒng)GPU,延時(shí)達(dá)到300ms,而使用含光800僅需4顆芯片,延時(shí)降至150ms。
除了城市大腦以外,含光800還可以應(yīng)用在視覺(jué)處理應(yīng)用上。以拍立淘商品庫(kù)為例,庫(kù)中每天新增10億商品圖片,使用傳統(tǒng)GPU算力識(shí)別要耗費(fèi)1小時(shí),使用含光800后可縮減至5分鐘,極大提高了工作效率。