据报道，全球AI基准测试MLPerf的最新测试结果显示，高通的AI芯片在三项能效指标中的两项中击败了英伟达，而一家来自中国台湾的Neuchips公司在余下一项指标中胜出。但具体来看，高通AI芯片和英伟达AI芯片各有所长。
公开资料显示，MLCommons是一个衡量人工智能处理速度的第三方组织，旗下MLPerf是权威性最大、影响力最广的国际AI性能基准测试。
企业用AI芯片训练模型，这一市场正在快速成长，英伟达占据统治地位。模型训练之后才会大规模推广使用，执行各种任务，这一过程可以叫作“推理”，比如AI可以根据提示生成文本，可以判断图片中是否有猫。
分析师认为数据中心推断芯片市场将会快速成长，因为越来越多的企业将AI技术植入产品中，与此同时谷歌等企业却在考虑如何节省成本。电费就是最重要的成本之一。高通以开发节能芯片见长，它针对AI市场推出低能耗Cloud AI 100芯片。
根据MLCommons的测试，以每个芯片每瓦可以处理多少数据中心服务器查询计算，在图片分类方面，高通AI 100的表现好于英伟达H100芯片。高通芯片每瓦可以执行197.6次查询，英伟达芯片只有108.4次，Neuchips开发的芯片达到227次。
在目标检测方面，高通芯片每瓦可以执行3.2次，英伟达芯片2.4次。店铺可以利用对象检测技术分析顾客足迹，看看客人最喜欢去哪里。
但在自然语言处理方面，无论是绝对性能还是能效，英伟达芯片都占据优势。聊天机器人会用到自然语言处理技术。英伟达芯片每瓦可以处理10.8个样本，Neuchips处理8.9个，高通处理7.5个。
