日前，下一代智算关键技术创新论坛聚焦“Token极致性价比”引发行业关注。多位与会人士表示，随着AI产业从模型参数竞争转向规模化商用落地，单纯依靠硬件堆叠的边际效益持续递减，训推成本高企、集群协同效率不足已成为全行业面临的共同挑战。
当前，AI竞争正加速进入系统级效能比拼时代。智算产业的瓶颈无法仅靠单一硬件迭代破解，需通过系统级创新、全栈技术协同与产业链联动，削减全链路资源损耗，这已成为论坛上各方讨论的底层逻辑。
在算力架构层面，超节点被视为提升算力资源利用效率的重要方向。超节点并非简单的算力堆叠，而是高速互联、供电散热与软件栈优化协同构成的系统工程。与此同时，CPU+GPU异构协同、专用硬件加速KV Cache搬移与压缩等路径，也在探索进一步释放整机效能。
智能体规模化应用后，推理环节产生的大量临时缓存数据给内存资源带来巨大压力，KV Cache正成为拉高Token成本的关键瓶颈。传统存储架构已难以匹配智能体时代的高并发推理需求，多层级差异化存储加速架构成为探索方向，以实现KV Cache的高效访问与灵活共享，推动存储从成本制约因素向效率提升杠杆转变。
在软件生态层面，国产算力落地面临“硬件易得、软件生态欠缺”的现实困境。补齐广域兼容的推理引擎等软件层能力、构建科学评测与智能路由类平台支撑，被视为推动国产算力从可用走向好用的重要路径；同时，智能体长程任务对训练框架提出更高要求，统一强化学习训练框架、异步强化学习架构等技术探索，正被用于降低长轨迹训练中的上下文干扰。
新华三集团高级副总裁、网络产品线总裁乔刻表示，智算产业面临的瓶颈无法仅依靠单一硬件迭代破解，唯有通过系统级创新、全栈技术协同与产业链联动，削减全链路资源损耗，方能夯实AI产业长期发展根基。（记者 梁倩）
转自：经济参考网
【版权及免责声明】凡本网所属版权作品，转载时须获得授权并注明来源“中国产业经济信息网”，违者本网将保留追究其相关法律责任的权力。凡转载文章及企业宣传资讯，仅代表作者个人观点，不代表本网观点和立场。版权事宜请联系：010-65363056。
延伸阅读
