中兴通讯智算一体机在钢铁行业的应用实践

        当前，AI在企业应用日益广泛，但AI落地仍面临诸多挑战：技术门槛高，要求企业具备深厚技术与专业人才；数据管理复杂，存在数据分散、格式不一及安全隐私问题；部署成本高昂且耗时，软硬件部署流程繁琐，AI应用效率难以得到保证。

        为应对这些挑战，中兴通讯推出智算一体机，它提供企业大模型AI基础设施所必需的硬件设备，实现开箱即用；通过集成大模型训推软件平台，大幅降低模型训练和推理的技术门槛；通过支持主流AI框架，帮助用户降低私域模型的训练和推理成本。此外，智算一体机可内置多种模型和应用并用组件，精准契合人工智能与企业应用深度融合这一行业发展趋势，提供一站式智算解决方案，为企业数字化转型赋智提效。

        中兴通讯将一体机集成智能问答应用，在底层智算基础设施上部署大、小模型，保持多模型能力，在此之上部署向量知识库和智能问答系统（见图1）。中兴通讯智能问答助手应用一体机在钢铁行业进行了商用探索和实践，为鞍钢数科搭建智能问答系统，开启钢铁行业智能化升级的新篇章。

为鞍钢数科效能提升提供“加速器”，AI应用快速上线

        作为由中央直接管理的国有大型企业，鞍钢集团是新中国首个恢复建设的大型钢铁联合企业和最早建成的钢铁生产基地，被誉为“共和国钢铁工业的长子”“新中国钢铁工业的摇篮”；同时，鞍钢集团是世界500强企业，粗钢、铁精矿产能均位居世界前列，并且是世界最大的产钒企业、中国最大的钛原料生产基地。鞍钢数科是鞍钢集团旗下集自动化、信息化、网络化、数智化服务于一体的高新技术企业。在国家大力推动数字经济与人工智能深度融合发展的战略指引下，鞍钢数科积极响应号召，主动拥抱AI时代浪潮，引入智能文档检索系统，推进AI应用上线，深化企业智能化转型进程。

        中兴通讯智算一体机提供高度集成化的全栈解决方案，出厂前已预装所需全套软硬件产品，包括高性能服务器、分布式文件存储、IB/RoCE网络、安全、数据平台软件、智算平台软件等，用户只需进行简单的网络连接、参数配置等基础操作，即可快速完成部署。此外，智算一体机还采用预先集成的方式，内置多种行业模型，中兴通讯提供大模型代训、精调以及应用系统集成等定制服务，满足不同客户的个性化需求。中兴通讯智算一体机开箱即用，一站式交付，显著提升了鞍钢数科企业效能，并确保AI应用的快速上线。

助力鞍钢数科提升文档检索效率

        在当前企业的文档检索环节中，传统方式在面对海量信息时存在局限性，比如受限于个人知识储备、被主观因素干扰等。为了实现更精准、高效的文档检索，鞍钢数科借助AI技术，提升信息处理效率和质量，为企业的高质量发展筑牢信息根基。

        中兴通讯创新性地在其智能问答系统中引入大小模型协同工作机制，以此强化知识检索和生成能力。通过算子开发，在文档自动化导入、文档分割/分块、知识库向量化、重排序等方面进行优化；通过多种技术手段极大降低大模型底座的幻觉，大幅度提高回答准确率。当前鞍钢数科智能问答系统在特定知识领域的回答准确度高达99%，性能远超目前业界主流智能问答类应用工具，极大地提高了文档检索准确率。

        中兴通讯智算一体机凭借强大的算力以及按权重配置模型服务多实例机制，确保GPU资源利用最大化，保证查询性能，以满足鞍钢数科对于知识问答的高效率要求，提升文档检索效率，提升企业工作效率。

        在知识查询过程中，端到端4K输入输出长度场景下实现了首字时延秒级控制，意味着系统能够在用户输入查询问题后快速响应，几乎无需等待。字间时延缩短至20ms左右，大幅节省查询时间，显著提升工作效率，为鞍钢数科文档检索工作带来前所未有的便捷与高效。

        中兴通讯智能问答一体机极大地简化信息获取流程，提高员工工作效率，这一应用不仅助力鞍钢数科实现智能化、高质量发展，更为整个工业行业的智能化转型提供了可借鉴的宝贵经验。

        智算一体机与智能问答应用的深度融合和商用实践，彰显了中兴通讯在AI应用一体机研发与应用方面的深厚实力，是一个重要里程碑。展望未来，中兴通讯将持续深化研究，积极促进其在工业、智能制造等更多领域的广泛渗透，继续推动行业的智能化转型。