近日，北电数智完成覆盖10款国产AI芯片的大模型推理测试。测试围绕典型业务场景，系统评估不同芯片运行大模型的服务表现。结果显示，新一代国产AI芯片综合能力取得明显进步，在大模型相关典型任务上性能提升幅度较大，场景适配范围持续扩大，可支撑更多类型算力业务落地。
该测试由北电数智发起，联合10家国产芯片企业共同完成，覆盖文档解析、实时对话、多任务联动等7类典型AI服务场景，重点考察不同并发条件下的响应时延、输出吞吐与服务稳定性。测试同时印证，芯片性能的充分释放，不仅取决于硬件参数本身，更取决于模型适配、推理配置与业务场景的深度协同。
从产业落地视角看，不同业务场景对推理能力的核心要求各有侧重：深度文档分析更关注长上下文处理效率，面向用户的交互服务优先保障即时响应体验，智能体类应用则更重视多步骤推理与工具调用过程中的整体执行效率、任务完成时延及成本控制。各款芯片的差异化优势，正是清晰显示在这些细分维度上。
支撑这一系列测试的，是北电数智较早启动的国产算力生态协同布局。作为北京电控旗下的AI原生企业，北电数智于2024年1月承接北京市经济和信息化局“先进计算迭代验证平台”专项项目。平台自搭建以来持续开展年度测评，今年的测试正是在既有体系基础上的新一轮验证。
先进计算迭代验证平台坚持“以评促用”，对国内主流芯片逐一测试、逐一适配；建成三千卡规模的多芯混合集群，让国产芯片在接近真实生产的环境中试用、试炼；把十余种国产芯片放进同一资源池统一纳管、统一度量，实现底层芯片可替换、上层应用无感知；同时自研推理引擎并开源，把芯片差异下沉到插件层，使新款国产芯片实现“即插即用”，接入周期从过去的数月缩短到以周计。
基于这套平台能力，北电数智与头部芯片伙伴建立了常态化联合技术验证机制，将技术验证工作与智算中心、行业客户的实际需求直接衔接，推动建立跨厂商、可比较、可复验的统一异构算力评估标准体系。对芯片企业而言，测试与优化结果可帮助其精准定位软硬件适配瓶颈，明确后续技术迭代方向；对智算中心和行业客户而言，可结合自身业务需求选择适配的芯片、模型与推理配置，推动每一颗芯片在对应场景中充分发挥技术优势。
凭借在异构算力适配方向的持续探索，北电数智“基于国产化异构芯片的软硬件协同适配平台”项目入选工业和信息化部公布的2025年人工智能应用典型案例，成为该批次中的标杆项目。算力在大模型时代的竞争，已不仅是单卡性能的比拼，更是集群架构、软件生态与场景落地的体系化较量。作为北京市重点布局的北京数字经济算力中心运营主体，北电数智整合“数算模用”全栈AI能力，为千行百业提供稳定普惠的算力支撑，展现新质生产力企业的实践力量。
依托新一代国产设备，北电数智的自研软件与工具链已使大模型推理服务总吞吐提高30%以上、首Token延迟缩短约50%，并形成一套支持多种主流国产芯片的部署系统。
国产算力从“能用”到“好用”，靠的是硬件、软件与生态的全链条协同演进。北电数智已探索形成一条自主可控的异构算力产业化落地可行路径。
（供图/北电数智）
本文仅代表作者观点，不代表本刊立场。
