0
近日,寒武紀思元(MLU)系列云端智能加速卡在中國移動正式上線。截至2023年12月,中國移動已有12個省公司、超過70個AI業(yè)務(wù)完成向寒武紀思元(MLU)系列云端智能加速卡的遷移。經(jīng)充分驗證,寒武紀思元(MLU)系列云端智能加速卡的可行性、易用性及運算性能均達到或超過國際主流產(chǎn)品水平。
中國移動依托云邊端協(xié)同管理架構(gòu)和智能算力感知調(diào)度能力,圍繞東西部樞紐節(jié)點,形成多中心、大規(guī)模AI算力集群,支持對復(fù)雜AI場景的計算需求,賦能中國移動全網(wǎng)AI業(yè)務(wù)。
2022年,廣東移動、江蘇移動和云南移動等多個中國移動省公司參與國產(chǎn)AI算力遷移適配和測試工作。各移動省公司針對本省相對成熟的AI業(yè)務(wù)場景,基于私有云平臺的算力遷移模塊(含寒武紀適配鏡像)進行自主遷移,將GPU運行的AI業(yè)務(wù)適配遷移至寒武紀思元(MLU)系列云端智能加速卡,驗證試點AI業(yè)務(wù)遷移到寒武紀算力資源的可行性、易用性、及運算性能。
經(jīng)中國移動各省公司的充分驗證:(一)可行性方面,寒武紀思元(MLU)系列云端加速卡在保證業(yè)務(wù)精度的前提下,業(yè)務(wù)時延均與GPU運行時延持平或領(lǐng)先,符合業(yè)務(wù)部署需求;(二)易用性方面,GPU到思元(MLU)的業(yè)務(wù)遷移兼?zhèn)涓咝Ш透咝阅?,基于框架的遷移過程簡單高效,基于寒武紀推理引擎MagicMind的遷移則可確保業(yè)務(wù)的優(yōu)化需求;(三)運算性能方面,寒武紀思元(MLU)系列云端加速卡的性能均符合各省報送的CV、NLP等AI場景的業(yè)務(wù)部署需求,在上線壓測中性能超過GPU。
截至2023年12月,中國移動已有12個省公司完成70種以上AI算法及AI業(yè)務(wù)的適配并正式上線,已賦能的AI業(yè)務(wù)包括工程質(zhì)檢、明廚亮灶、智能工單、網(wǎng)格通等各省重要、常用的AI業(yè)務(wù)。所涉及的AI網(wǎng)絡(luò)囊括CV類的YoloV5, MTCNN, MobileNet, NLP類的Bert, Simbert等。
未來,寒武紀將持續(xù)助力中國移動,共同賦能更多業(yè)務(wù)場景的AI落地。
雷峰網(wǎng)(公眾號:雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。