首批首家!DataCanvas Alaya NeW智算操作系統(tǒng)順利通過中國信通院“大模型推理平臺(tái)”標(biāo)準(zhǔn)評(píng)估
近日,九章云極DataCanvas公司自主研發(fā)的DataCanvas Alaya NeW智算操作系統(tǒng)順利通過中國信息通信研究院(以下簡稱“中國信通院”)首批首家“大模型推理平臺(tái)技術(shù)要求”標(biāo)準(zhǔn)技術(shù)評(píng)估。這是繼今年1月首批首家通過中國信通院“大模型計(jì)算資源調(diào)度平臺(tái)”標(biāo)準(zhǔn)評(píng)測后,DataCanvas Alaya NeW智算操作系統(tǒng)榮獲的又一行業(yè)權(quán)威認(rèn)證。
精準(zhǔn)調(diào)度、普惠應(yīng)用,Alaya NeW樹立全新實(shí)踐范本
中國信通院人工智能研究所高度關(guān)注大模型推理平臺(tái)技術(shù)發(fā)展,依托人工智能關(guān)鍵技術(shù)和應(yīng)用評(píng)測工業(yè)和信息化部重點(diǎn)實(shí)驗(yàn)室、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟AI Infra工作組,聯(lián)合七十余家單位共同編制了《大模型推理平臺(tái)技術(shù)要求》標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)旨在為大模型推理平臺(tái)的研發(fā)者提供技術(shù)參考,并為使用的企業(yè)方提供選型參考,進(jìn)而推動(dòng)大模型部署推理實(shí)現(xiàn)高質(zhì)量、規(guī)模化應(yīng)用落地。
具體來看,標(biāo)準(zhǔn)系統(tǒng)梳理了大模型推理平臺(tái)的功能、性能、穩(wěn)定性,關(guān)注部署、推理、服務(wù)與管理環(huán)節(jié),以實(shí)現(xiàn)低時(shí)延、高吞吐、可擴(kuò)展、高易用、低成本目標(biāo)。該標(biāo)準(zhǔn)共81個(gè)能力項(xiàng),其中基礎(chǔ)功能35項(xiàng),高級(jí)功能46項(xiàng),各能力域涉及模型部署、模型推理、平臺(tái)服務(wù)與管理等核心條目。
《大模型推理平臺(tái)技術(shù)要求》標(biāo)準(zhǔn)核心條目
圖片來源:中國信通院
在本次評(píng)估中,九章云極DataCanvas公司的專家團(tuán)隊(duì)集中展示了DataCanvas Alaya NeW智算操作系統(tǒng)在模型部署、模型推理、平臺(tái)服務(wù)與管理等方面的能力現(xiàn)狀,結(jié)合測試用例逐一進(jìn)行技術(shù)演示,并對(duì)當(dāng)前產(chǎn)品運(yùn)營情況及未來規(guī)劃進(jìn)行解讀。
此次評(píng)測的順利通過,不僅印證了Alaya NeW在算力技術(shù)領(lǐng)域的標(biāo)桿地位,更凸顯了其作為行業(yè)革新引擎的角色——通過構(gòu)建高效率、高可靠、可擴(kuò)展的算力調(diào)度體系,實(shí)現(xiàn)算力資源利用效能最大化,以標(biāo)準(zhǔn)化技術(shù)架構(gòu)推動(dòng)大模型推理平臺(tái)從技術(shù)探索邁向產(chǎn)業(yè)規(guī)范,為行業(yè)樹立“精準(zhǔn)調(diào)度、普惠應(yīng)用”的實(shí)踐范本。
DataCanvas Alaya NeW智算操作系統(tǒng)
算力即服務(wù),推動(dòng)AI應(yīng)用從實(shí)驗(yàn)室走向規(guī)模化落地
自2013年成立以來,九章云極DataCanvas公司持續(xù)扎根于人工智能基礎(chǔ)設(shè)施領(lǐng)域,以“算力+算法”雙核驅(qū)動(dòng)模式重構(gòu)產(chǎn)業(yè)智能化路徑。通過深度融合國際前沿AI技術(shù)與本土化智算生態(tài),公司構(gòu)建了覆蓋“芯片-系統(tǒng)-平臺(tái)-應(yīng)用”的垂直技術(shù)棧,以標(biāo)準(zhǔn)化算力服務(wù)和全棧式AI工具鏈為錨點(diǎn),推動(dòng)智算產(chǎn)業(yè)從資源集約化向服務(wù)智能化躍遷。
作為Alaya NeW Cloud智算云服務(wù)的技術(shù)中樞,Alaya NeW以智能化的資源調(diào)度引擎和全棧式AI服務(wù)能力,重新定義了“以度計(jì)量、算力即服務(wù)”的行業(yè)范式。
Alaya NeW的核心價(jià)值主要體現(xiàn)為:通過異構(gòu)資源統(tǒng)一納管和動(dòng)態(tài)公平調(diào)度算法,實(shí)現(xiàn)跨中心、跨集群的算力資源全局優(yōu)化,大幅提升GPU利用率;向上提供覆蓋模型全生命周期的即用型工具鏈,集成分布式訓(xùn)練加速、內(nèi)存優(yōu)化等技術(shù),使大模型訓(xùn)練效率提升、推理速度提高,讓開發(fā)者無需關(guān)注底層配置;基于Serverless彈性計(jì)算架構(gòu)與“算力包”計(jì)量模式,將算力資源細(xì)粒度切分,實(shí)現(xiàn)算力成本降低,推動(dòng)AI應(yīng)用從實(shí)驗(yàn)室走向規(guī)模化產(chǎn)業(yè)落地。
作為數(shù)字經(jīng)濟(jì)時(shí)代的核心戰(zhàn)略資產(chǎn),算力正從基礎(chǔ)資源進(jìn)化為驅(qū)動(dòng)千行百業(yè)智能躍遷的新質(zhì)生產(chǎn)力引擎。Alaya NeW智算操作系統(tǒng)先后首批首家通過“大模型計(jì)算資源調(diào)度平臺(tái)”、“大模型推理平臺(tái)技術(shù)要求”標(biāo)準(zhǔn)評(píng)估,充分印證了九章云極DataCanvas公司在算力領(lǐng)域的技術(shù)領(lǐng)先。未來,九章云極DataCanvas公司將以“AI創(chuàng)新土壤”培育者視角,通過軟硬協(xié)同創(chuàng)新與生態(tài)共建,構(gòu)建連接異構(gòu)算力供給與場景化AI落地的智能基座,讓每度算力都能精準(zhǔn)賦能企業(yè)創(chuàng)新,引領(lǐng)數(shù)字經(jīng)濟(jì)邁向“智算定義未來”的新紀(jì)元。