4月26日,全球首個(gè)商用智算昇騰超節(jié)點(diǎn)在中國電信粵港澳大灣區(qū)(韶關(guān))算力集群正式發(fā)布,現(xiàn)已商用上線,標(biāo)志著新一代智能算力注入粵港澳大灣區(qū)國家級(jí)算力樞紐節(jié)點(diǎn),中國電信在AI算力基礎(chǔ)設(shè)施領(lǐng)域取得重大進(jìn)展,為人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入新動(dòng)能。
中國電信表示,目前,大模型的Scaling Law仍然生效,國內(nèi)外主流基礎(chǔ)大模型參數(shù)量持續(xù)增加,算力需求不斷增加;大模型從稠密架構(gòu)向混合專家模型(MoE)稀疏架構(gòu)演進(jìn)?;谝陨咸攸c(diǎn),業(yè)界主流智算服務(wù)器在提升單卡算力的同時(shí),正在從單節(jié)點(diǎn)向超節(jié)點(diǎn)架構(gòu)演進(jìn)。智算昇騰超節(jié)點(diǎn)采用新型高速總線架構(gòu),天然適配混合專家模型(MoE)架構(gòu),使得大模型訓(xùn)練效率和推理性能大幅提升。
中國電信此前在京津冀、長三角地區(qū)建成的國內(nèi)首批全液冷萬卡池,保障了智能算力的供給量,在粵港澳大灣區(qū)樞紐節(jié)點(diǎn)建設(shè)首個(gè)超節(jié)點(diǎn)形態(tài)集群,標(biāo)志著中國電信智能算力供給實(shí)現(xiàn)質(zhì)與量的雙重跨越。