
在针对代理式人工智能(Agentic AI)的七项工作负载评估中,Arm AGI CPU的模型化机柜级性能几乎达到AMD EPYC 9755处理器的两倍。此次评估由Signal65在Arm配合下完成,通过对比实测处理器数据,估算固定功耗预算下的整机柜性能。
需注意的是,部分结论基于功耗建模,针对最终量产硬件的实际测试仍在进行中。
机架密度赋予Arm显著优势
评估涵盖软件工具、自主任务执行、信息检索及AI模型服务等场景,包括Terminal-Bench 2和SWE-bench。在七项测试中,Arm处理器平均性能比率为1.99倍,单项优势介于1.43倍至3.19倍之间。
这一优势主要源于服务器功耗差异。Arm单台服务器功耗为950至1,050瓦,而AMD双路配置额定功耗为1,700瓦。在24千瓦的机柜电力限制下,可部署21至23台Arm服务器,相比之下仅能容纳13台双路EPYC 9755系统。
在此配置下,Arm提供的物理核心数为5,712至5,888个,远超AMD的3,328个。细分来看,Arm在工具类工作负载中优势为1.7倍,代理工作流为2.0倍,推理与规划为2.2倍。报告估计,在处理同等数据库和向量搜索工作量时,Arm方案可减少30%至35%的机柜需求。
沙箱创建提速与x86面临的挑战
另一项基于Sandbench的独立测试将Arm与AMD EPYC 9965对比,重点衡量隔离执行环境的建立时间。结果显示,Arm冷启动速度快45%,热启动快27%,即使在四倍超分载的最坏情况下仍快41%。更快的环境设置有助于降低AI代理在访问服务、运行代码时的延迟。
Arm云AI执行副总裁Mohamed Awad强调,行业应关注系统在代理实际完成任务方面的表现。该评估框架得到富士通、Meta和OpenAI支持,Signal65独立验证了处理器结果。
Arm承认,后续针对生产系统的测试将覆盖更多工作负载及竞争对比。对于AMD和Intel而言,这些发现表明在受机架功耗限制的代理式AI部署中,Arm服务器可能挑战x86基础设施的地位,使运营商能在现有电力分配内容纳更多AI负载。
然而,该基准测试并未证明Arm在通用计算中全面优于x86,也不足以支撑在整个数据中心范围内替换现有服务器的决策。软件兼容性、部署成本及实际运行条件,仍将决定模型化优势能否转化为广泛采用。
【星途科讯 图文丨三一一 首发于ZAKER科技,转载请注明出处】




