在人人看球的「产品与方案」栏目里,我们更关心的不是某一款芯片跑分高低,而是同一口径下算力、带宽、互联与能效之间的关系。本文按训练与推理两类场景,梳理五类常见公开方案的参数组织方式,给出横向对比的参照框架,并说明每类配置的适用边界,便于读者在阅读厂商公开资料时保持统一口径。

一、先统一口径:四组参数决定方案可比性

结论前置:任何算力方案的横向对比,如果不先统一算力精度口径、带宽统计口径、互联拓扑口径与能效测量边界,比较结果就会失真。人人看球在整理公开方案资料时,通常先把这四组参数拆开标注,再谈优劣。

  • 算力口径:区分稠密算力与稀疏算力,区分训练常用精度与推理常用精度,避免用不同精度下的峰值直接相减。
  • 带宽口径:区分芯片内带宽与芯片间带宽,区分理论峰值与可持续带宽,标注是否包含缓存层级。
  • 互联口径:说明单机内互联与跨机互联的层级,标注拓扑形态与端口数量,避免只写一个总带宽数字。
  • 能效口径:说明是整卡功耗、整机功耗还是整柜功耗,标注测量负载类型,避免拿空闲功耗对比满载功耗。

把这四组口径写在对比表最上方,是人人看球产品与方案栏目坚持的整理习惯。口径不统一,后面的榜单就没有意义。

二、五类公开方案的参数盘点

结论前置:按训练与推理的负载特征,公开方案大致可归为五类,每类在算力密度、带宽配比与互联规模上各有取舍,没有全场景通吃的配置。

  • 高算力训练型:算力密度高,芯片间互联规模大,适合长周期大模型训练;边界在于整机功耗与机房供电改造成本较高。
  • 均衡训练推理型:算力与带宽配比居中,互联规模适中,适合中等规模训练与批量推理混跑;边界在于峰值负载下调度复杂度上升。
  • 高带宽推理型:显存带宽占比突出,算力适中,适合长上下文与高并发推理;边界在于训练侧扩展能力有限。
  • 低功耗边缘推理型:能效优先,算力规模小,适合端侧与近端推理;边界在于模型规模受限,需做量化与剪枝配合。
  • 多卡互联扩展型:单卡参数不突出,但互联拓扑规整,适合横向扩展;边界在于跨机通信对网络配置敏感。

人人看球在整理这五类方案时,会同时标注公开资料来源类型,例如厂商规格书、行业白皮书与标准文档,无法核验的数值统一标注为示例数据,避免读者误读为承诺性结论。

三、适用边界:从参数到场景的对应关系

结论前置:参数对比只是起点,真正决定方案是否合适的是场景边界,包括模型规模、并发强度、机房条件与迭代节奏四项约束。

  • 模型规模决定算力与互联下限,参数规模越大,跨机互联在总耗时中的占比越高。
  • 并发强度决定带宽与能效侧重,高并发推理更看重可持续带宽与单位请求能耗。
  • 机房条件决定功耗与散热上限,供电与制冷余量不足时,高算力密度方案的实际可用算力会打折。
  • 迭代节奏决定扩展弹性,更新频繁的场景更适合互联规整、便于横向扩展的配置。

在人人看球的方案对比页面中,这四项约束会与参数表并列展示,读者可以先按边界筛掉不匹配的方案,再进入细粒度参数比较,减少无效对比。

四、读榜方法:三步建立自己的比较框架

结论前置:榜单的价值在于提供比较框架,而不是替读者做决定。人人看球建议按三步阅读:先看口径是否统一,再看边界是否匹配,最后看能效与扩展是否留有余量。

  • 第一步核对口径:确认算力、带宽、互联、能效四组参数是否同源同口径。
  • 第二步核对边界:确认方案标注的适用场景与自身负载是否一致。
  • 第三步核对余量:确认功耗、散热与互联端口是否有扩展空间。

通过安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版客户端,读者可以在人人看球随时查阅同一份口径说明,保持跨设备阅读的一致性。栏目后续还会继续补充公开方案资料,帮助读者把算力、带宽、互联与能效之间的关系看得更清楚。