SPN内生AI算力及其在ToB行业的实践

发布时间:2023-04-24 作者:中兴通讯 何力,曾淼;常州移动 范为杰 阅读量:

        生产企业数智化转型,普遍有部署边缘算力的需求,边缘算力可以满足数据不出园区、业务本地低时延处理的需求;同时边缘计算芯片经过多年的发展,功耗和成本已经能支持承载设备集成,实现轻量级的推理平台。中兴通讯推出的SPN内生AI算力结合应用云和网络的覆盖,可以在更大带宽、更低时延、更高可靠、更快服务的基础上通过边云协同为企业提供人工智能服务,实现园区数据接入入口,降低边缘算力部署成本的目的,支持企业加速数智化转型,全面提升数智化管理能力。

 

SPN内生AI算力技术方案

 

        SPN内生AI算力技术方案在SPN接入层设备或者SPN CPE设备中内置轻量级AI算力,作为超边缘算力的一种部署形态,为ToB生产数据提供AI算力应用,内嵌超边算力用于ToB实时数据的本地推理计算,非实时高算力需求的模型训练计算放在云端。

        SPN内生AI算力系统通过获取产线数据(例如高速相机或摄像头视频流数据),进行实时算法分析。并通过边云协同方案打包边缘计算、云计算和网络能力,在工业园区开展应用,将公有云能力延伸到边缘,实现园区内数据采集和实时业务本地处理。

        整个系统由云端训练系统、云边交互HMO(Hyper-Management&Orchestration)系统、园区HEC(Hyper-Edge computing)设备及园区工作台构成。

        - AI训练系统:部署在中国移动九天云上,负责AI训练,接受HEC上送的训练数据进行AI训练并生成对应的模型文件下发给HEC。

        - HMO:SPN超边缘算力管理和编排器,当前定义为UME的一个功能组件。支持多HEC的算力资源编排和管理功能;完成部署在HEC上的AI应用的编排和管理功能,包括应用部署、下载、更新和本地的LCM管理等;提供AI入云能力,协助完成AI训练数据上送和AI模型文件下载等功能。

        - HEC:SPN内生AI算力设备,具备基础网络功能,并可配置1至多块算力单板提供扩展的内生AI算力服务。内生AI算力可以完成图像识别、AI推理、AI模型部署、推理加速等机器视觉相关应用功能;提供开放能力,可以上报网络资源、算力资源、AI推理结果等信息,也可以按需为AI训练系统提供模型训练用的生产数据。

        - 现场工作台:工作台是一个独立部署系统,可解决客户对数据安全性的担忧。工作台对工业园区内的所有HEC设备进行管理,需要通过UME获取访问本地HEC设备的授权;提供对本地应用的各种管理,包括APP查看、启停等操作,对生产环境参数(如图像格式、工业接口协议等)的修改,对工业质检结果的统计和查看;通过引入现场工作台,可以实现生产数据在园区本地闭环。

        SPN内生AI算力系统部署模型如图1所示。

 

 

ToB行业数智化转型实践

 

        2022年9月,中国移动联合中兴通讯在江苏常州完成全球首例Cloud SPN算网融合方案试点创新项目应用,此项目主要面向工业制造中传统质检向AI质检升级的场景。通过Cloud SPN算网融合方案云边协同与AI智能检测全新算法模型的应用,实现客户工业自动产线喷码质量检测功能。此解决方案是在现网商用SPN产品平台增加AI算力单板以及加载AI算法模型,升级已有产品能力,支持超边缘泛在化算力服务。

        中国移动联合中兴通讯提出的Cloud SPN算网融合方案,利用已有的SPN网络能力为园区提供本地轻量级计算资源池,通过边云协同方案打包边缘计算、云计算和网络能力,在工业园区SPN设备增加AI算力板卡以快速开展本地应用,通过SPN网络低时延特性将公有云能力延伸到边缘,实现园区内数据采集和实时业务的本地处理。通过前期需求分析和初步测试结果,我们验证了三大问题的解决途径:

        - 充分利用小颗粒切片专线的低时延城域承载网络,保证ToB应用入云的数据安全隔离,将公有云能力延伸到园区,可将公有云的智能化能力下沉园区;

        - 在园区产线部署集成机器视觉芯片与应用的承载接入设备,可通过训练样本的方式快速迭代AI模型实现本地实时质检,并能解决园区用户数据不出厂、数据保密性的难题;

        - 利用广覆盖承载接入设备集成算力能力,实现算力泛在化部署,并且采用云边协同架构后,对边缘算力的要求轻量化,网络设备内生算力模式大幅降低超边算力的部署和运维成本。 

 

        中兴通讯算网一体方案可在具备灵活带宽、多样隔离、低时延、高安全、高可靠等技术基础上为企业客户提供人工智能服务,满足不同客户的需求,从而实现开放、敏捷、差异化、智能化的专线服务,助力运营商在中小微企业的工业制造产业升级中与其建立云业务合作关系,发挥运营商潜能,提升网络价值。