近日，2024年度上海市通信學(xué)會(huì)“算力浦江”專委會(huì)團(tuán)體標(biāo)準(zhǔn)立項(xiàng)答辯會(huì)順利舉行，由恒為科技（上海）股份有限公司牽頭，中國信通院華東分院等單位共同參與的《智算可視化平臺(tái)能力要求》團(tuán)體標(biāo)準(zhǔn)也將正式進(jìn)入編撰過程中。
隨著AI大模型的火爆，AI行業(yè)快速發(fā)展，越來越多的科技公司陸續(xù)推出千億、萬億參數(shù)規(guī)模的LLM，而且LLM參數(shù)規(guī)模還在不斷擴(kuò)大，同時(shí)智算中心的集群規(guī)模也越來越大（千卡集群、萬卡/十萬集群），其數(shù)據(jù)量和復(fù)雜度呈指數(shù)級(jí)增長，而傳統(tǒng)數(shù)據(jù)中心運(yùn)維手段已經(jīng)無法滿足智算行業(yè)的發(fā)展以及智算中心集群高效運(yùn)維的要求，這就給智算中心的運(yùn)維帶來了嚴(yán)峻的考驗(yàn)和挑戰(zhàn)（異構(gòu)算力集群管理復(fù)雜、網(wǎng)絡(luò)延時(shí)抖動(dòng)和帶寬瓶頸等），智算行業(yè)急需要高效運(yùn)維、實(shí)時(shí)分析和監(jiān)控、問題及時(shí)預(yù)警、故障快速診斷、輔助決策支持、靈活可定制的智算可視化解決方案。
智算可視化，是指利用計(jì)算、網(wǎng)絡(luò)、數(shù)據(jù)可視化以及AI等技術(shù)，實(shí)現(xiàn)對(duì)智算集群關(guān)鍵數(shù)據(jù)進(jìn)行實(shí)時(shí)采集、監(jiān)控、存儲(chǔ)、分析、預(yù)警，并將其可視化展現(xiàn)，幫助客戶實(shí)時(shí)監(jiān)控智算中心的運(yùn)行情況，定位和識(shí)別智算系統(tǒng)性能瓶頸、潛在問題和故障原因，為智算中心提供高效、準(zhǔn)確、可觀測的運(yùn)維支撐，并通過優(yōu)化算力資源調(diào)度，保障智算系統(tǒng)穩(wěn)定運(yùn)行，提升智算中心整體服務(wù)能力。
目前智算可視化行業(yè)解決方案存在跨平臺(tái)適配集成復(fù)雜、采集維度和測量精度不夠、多維度全方位可視化展示的客戶體驗(yàn)不好等痛點(diǎn)問題，也缺少統(tǒng)一可參考的標(biāo)準(zhǔn)規(guī)范。
恒為科技積極聯(lián)合業(yè)內(nèi)具有廣泛影響力的權(quán)威機(jī)構(gòu)，共同引導(dǎo)和推動(dòng)《智算可視化平臺(tái)能力要求》團(tuán)標(biāo)草案的制定工作。主要內(nèi)容包括：
智算資源可視化
智算資源調(diào)度和任務(wù)可視化
智算平臺(tái)可視化
智算應(yīng)用可視化
智算可視化平臺(tái)展現(xiàn)
智算可視化監(jiān)控指標(biāo)
恒為科技緊緊把握產(chǎn)業(yè)技術(shù)趨勢和市場發(fā)展動(dòng)向，致力于推動(dòng)智算行業(yè)的標(biāo)準(zhǔn)化與規(guī)范化，助力行業(yè)健康發(fā)展。公司將通過與行業(yè)權(quán)威機(jī)構(gòu)、國內(nèi)頭部的光通信廠商、國產(chǎn)交換芯片、GPU/DPU/TPU芯片廠商的緊密合作，推動(dòng)團(tuán)標(biāo)的編撰和推廣，為“算力浦江”行動(dòng)計(jì)劃的實(shí)施提供技術(shù)和標(biāo)準(zhǔn)指引，進(jìn)一步助力智算行業(yè)健康有序發(fā)展。
