《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 新品快遞 > 金山云發(fā)布MaaS互信推理專區(qū)方案2.0

金山云發(fā)布MaaS互信推理專區(qū)方案2.0

默認(rèn)對接多個大模型
2024-01-09
來源:鳳凰網(wǎng)科技
關(guān)鍵詞: 金山云 MaaS 大模型

1月8日 全球數(shù)字化浪潮風(fēng)起云涌,云計算作為數(shù)字經(jīng)濟重要的支撐基礎(chǔ),正發(fā)揮越來越重要的作用。順應(yīng)趨勢,金山云深入探索前沿技術(shù),圍繞AIGC升級核心計算、存儲、網(wǎng)絡(luò)等產(chǎn)品。

近日,金山云發(fā)布MaaS互信推理專區(qū)方案2.0(以下簡稱“MaaS 2.0”),該方案以金山云IaaS和PaaS為底座,可實現(xiàn)云上LangChain的一鍵部署,默認(rèn)對接多個生態(tài)合作商業(yè)大模型和開源大模型。

此外,MaaS互信推理專區(qū)方案2.0同時支持包括BGE、Bert等在內(nèi)的Embedding模型,能無縫對接金山云全托管向量數(shù)據(jù)庫Milvus,提供面向企業(yè)開發(fā)者的簡單易用、安全可信的一站式推理應(yīng)用部署平臺。

1.png

在計算方面,金山云第七代云服務(wù)器X7搭載第四代英特爾? 至強? 可擴展處理器、支持英特爾? AMX原生加速能力,CPU性能較上代最高提升60%,內(nèi)存升級至DDR5,頻率較上一代性能提升50%。

面向大模型應(yīng)用場景,金山云推出互信虛擬私有網(wǎng)絡(luò)(簡稱“互信VPC”)。相對于標(biāo)準(zhǔn)VPC,互信VPC對進出VPC的通信行為有著更為嚴(yán)格的控制,幫助客戶解決合規(guī)和互信問題。針對HTTP、HTTPS等應(yīng)用層負(fù)載場景,公司推出應(yīng)用型負(fù)載均衡ALB(Application Load Balancer),單實例最大支持100萬QPS。

金山云公有云產(chǎn)品中心負(fù)責(zé)人孫曉表示,金山云深入探索前沿技術(shù),人工智能升級核心計算、存儲、網(wǎng)絡(luò)、數(shù)據(jù)庫等產(chǎn)品持續(xù)迭代,從多個維度全面擁抱人工智能。當(dāng)前,金山云全棧技術(shù)體系已形成以云產(chǎn)品基礎(chǔ)設(shè)施為底座能力,云產(chǎn)品平臺服務(wù)為核心的技術(shù)能力。


weidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。