技术升级、算电协同推动算力普惠

技术升级、算电协同推动算力普惠

  随着AI算力需求不断增长,高质量 、低成本的算力供给成为市场所需。如今 ,词元(Token)成为衡量算力消耗的最小单位,“Token工厂 ”则是将AI基础设施、模型和电力能源相结合,提供算力服务 。在2026世界人工智能大会上 ,行业企业通过基础设施能力提升、算电协同 、算力调度优化等方式 ,推动算力普惠。

技术升级、算电协同推动算力普惠-第1张图片

  技术升级降低算力成本

技术升级、算电协同推动算力普惠-第2张图片

  合肥中科类脑智能技术有限公司副总经理、算力Token运营事业部总经理常峰告诉记者,具备低成本 、规模化的AI算力供给能力,将是未来全球AI基础设施领域最重要的竞争壁垒。

  中科类脑研究院院长丁海松介绍 ,通过提升国产芯片性能,依托高效KV Cache(键值缓存)管理、动态PD分离(预填充与解码分离)节点优化等前沿技术,可更大化提升设备的Token吞吐效率 。

  新华三集团AI解决方案专家杨新安表示 , *** 设备、存储机制是影响算力成本的关键因素,“800G *** 较400G *** 可显著提升相同算力下的Token吞吐量 。”在存储机制上,通过分级缓存可以降低算力成本。

  算力架构同样影响算力成本。在本届大会上 ,商汤科技展出的商汤大装置通过异构混合推理,使整体推理性价比提升,同样成本下算力产出规模扩大2.5倍 。太初(杭州)集成电路有限公司(简称“太初元碁”)采用HCU异构融合计算架构 ,CPU与AI算力核通过统一高速总线互联,配合共享分级存储架构,提升整体效率。

  太初元碁CEO杨晋喆认为 ,当前算力产业已从单卡性能比拼进入系统级竞争阶段 ,模型参数突破万亿级 、“Token工厂 ”向吉瓦级演进,降低单位算力成本成为核心命题。

  算电协同提升能效

  降低算力成本的另一条路径是降低用能成本,其核心在于算电协同 。

  中科类脑算电一体化平台可基于分时电价、风光发电实时波动 ,灵活迁移算力任务负载,主动错峰使用低价清洁能源,从源头压缩算力用电成本。中科类脑董事长兼总经理刘海峰介绍 ,一个1000P(PFLOPS)标准算力集群年度总耗电量约2000万度,依托平台优化可节约20%用电量,每年预计可辅助算力集群减少400万度电力开支。

  润建股份通过RunDoBidder虚拟电厂和RunDoGrid智能微电网管理系统实现算电协同 。公司相关负责人介绍 ,微电网汇聚分布式光伏、风电 、储能等资源,通过在线数据监测实现统一管理,根据对算力中心的任务分析与负荷预测 ,数据传输至虚拟电厂,虚拟电厂结合电价预测生成调度策略,再下发调度优化指令。湖南某园区引入微电网平台后 ,每年因能源利用率、运维效率提升 ,产生效益约100万元。

  中兴通讯在本届大会期间展出了算电协同、源网荷储一体化AIDC整体解决方案,通过电力 、算力、热力融合管理,实现全域统一调度 ,提升单位电力与算力产出,使每一度电支撑更多AI Token计算 。

  商汤科技则在本届大会期间发布算电协同Agent,基于算力、电力 、Agent三位一体体系 ,使商汤大装置实现单位电量Token产出提升80% 、平均电费单价低于同地区数据中心的约10%。

  “Token工厂 ”优化算力使用

  除了基础设施升级与算电协同,“Token工厂”正通过优化算力调度、算力运营来提升算力使用效率。

  百度智能云将原有的“MaaS模型服务”升级为“Token工厂 ”,尽可能减少Token重复计算 ,推理生成速度较市场水平提升约25%,同时支持多款国产主流模型的调用,提高算力服务性价比 。

  杨新安介绍 ,新华三集团通过优化服务机制,充分发挥算力效能 。例如,根据用户付费水平分配不同等级的模型服务 ,根据问题复杂程度匹配相应模型 ,在保障输出质量的同时减少Token消耗。企业或工厂可通过后台界面查看每个Token的具体使用路径、成本与计费详情,管理日常运营中的算力成本。

(文章来源:中国证券报)

©版权声明
THE END