基于真实环境的AI测试胁制演进bt工厂爱唯侦察，促使英特尔时代巨匠妥当行业需求，执续提高居品质能，进而营造更友好的发展环境，推进AI时代的普及。

MLPerf寰球可能都略有耳闻，但又随机完全了解这项AI基准测试。天然没能找到这个词自己的明确界说，但哄骗AI助手，咱们得到了一个值得信托的谜底：MLPerf在2018年5月初次出当前被比作是为“SPEC for ML”。AI助手络续写说念：“‘MLPerf’是一个合成词，由‘ML’（代表机器学习）和‘Perf’（代表性能）组合而成。”

它进一步解释说：“天然没相对于定名过程的详备官方阐发，但称呼自己就卓著直不雅，之是以被选中，可能是因为它平直体现了基准测试的见识。”（这个解释也很贴合寰球对AI生成的谜底的预期，这些AI由谈判东说念主员所构建并胁制矫正）

实质终局诠释了这极少：就在上周，英特尔是独逐个家执续向MLPerf提交作事器CPU测试终局的厂商。提交的终局中包括了使用英特尔®至强® 6处理器进行图像检测和信息分析等常见的AI任务。

加快AI发展背后的组织与历程

英特尔数据中心和东说念主工智能行状部软件部门的Ramesh Chukka暗意：“MLPerf是面前AI规模首屈一指的基准测试。”

Chukka代表英特尔担任MLCommons委员会成员，该定约诞生于2020年底，标的是将领先的MLPerf使命规模彭胀到“推进设备最新的AI和机器学习数据集和模子、最好执行、基准和方针，并让使用愈加方便”。

Chukka觉得，MLPerf不错泛指总共的基准测试，这些基准测试“像时代的发展同样，处于快速演进中”，从而通过“快速构建新的AI时代原型”来已毕推进该规模发展的标的。每个基准测试都揣度了在一定的质地水平下，完成特定AI任务的速率。

这些基准测试分为两大类：一是检察，即使用数据构建AI模子；二是推理，即让AI模子像应用要道同样初始起来。用大讲话模子（LLM）来类比：检察是指LLM从海量信息中学习的过程，而推理则是你每次安排它履行任务的时候。

MLCommons每年针对检察和推理两大类目永诀发布两组基准测试终局。英特尔最近一次公布检察终局是在前年6月bt工厂爱唯侦察，而最新的推理终局则是在本月刚刚发布。

从MLPerf创立之初，再到之后的MLCommons，英特尔AI巨匠一直积极参与并孝顺测试终局。英特尔从两方面参与其中：匡助塑造和推进通盘边幅的发展，同期使用英特尔的处理器、加快器和措置决议进行编译并提交基准测试终局。

MLPerf基准测试所措置的问题

AI模子是复杂的要道，当今越来越多种类的计较机大要初始这些模子。通过MLPerf基准测试，不仅大要更好地对比不同种类的计较机，同期也不错推进谈判东说念主员和企业进一步探索前沿时代。

每个基准测试都会尽可能靠拢实质应用场景，而其终局则分为两个类别。其中，“阻塞”类别对AI模子和软件堆栈进行严格适度，以尽可能精确地进行硬件比拟，即在不同的系统中，使用疏导的要道来已毕疏导的终局，如天然讲话处理的准确率测试。

“敞开”类别则包含改进身分，即让每个系统在已毕疏导标的的前提下，尽可能地浪漫性能极限。

值得慎重的是，MLPerf将总共内容分享，且基准测试是开源的。测试终局需淌若可复现的，无掩盖信息。恰是这种开源敞开的特质，大要让厂商进行更全面的比拟，而不单是是单纯的速率对比。比如，厂商也不错从每瓦性能，或资本等维度进行对比。

MLPerf的初始及演进过程

正如Chukka所说，MLPerf之是以广受业界招供，部分原因在于它胁制演进并执续增多新的基准测试。其演进过程主淌若由MLCommons社区的公开扣问和申辩驱动的，而诸多大型企业、初创公司和学术界等均是该社区的参与者。

开赴点，新的基准测试会被建议并进行申辩，随后获批的基准测试需要一个公开的数据集用于检察。其中需要慎重的是，该数据集可能还是存在，也可能需要从头创建。其次，参与者自觉组队，共同构建基准测试、详情或集合数据，并为基准测试的发布设定时辰表。

终末，任何但愿发布测试终局的公司都需要在截止日历前提交恶果。如果错过该截止日历，则只可恭候下一轮历程从头开启。

更快速、更高效的AI塑造天下的将来

当越来越多的东说念主借助半导体时代攻克种种贫乏时，对于英特尔而言，无疑在宏不雅层面带来了显耀的积极影响，但是，英特尔参与MLPerf基准测试，有着更为潜入的真义。

英特尔一直在为AI开源框架孝顺力量，如PyTorch过甚彭胀。当英特尔工程师郁闷优化代码以提高MLPerf的初始效力时，那些在英特尔芯片上部署联系AI应用的用户，无需任何稀薄操作，便能跋扈受益于这些时代跨越。

Chukka暗意，“对于新的基准测试，咱们也一直在探索可行的优化决议，并积极准备后续的提交使命。”

为了已毕更出色的测试终局，Chukka团队集合公司各方力量，在多轮测试中获得了出色的性能提高，举例，在2024年的测试终局中，保举系统推感性能提高了80%，又如在本月的测试终局中，GPT-J基准测试性能提高了22%。

因此，当英特尔发布新一轮MLPerf测试终局时，通常也代表着全体AI系统都变得更快速、更高效，以至时下热点的大模子，也能在响应用户新的需求时，给出更马上、更智能的解答。

探花巨乳

端庄：

性能因使用情况、建立和其他身分而异。

性能终局基于限制建立中所示日历的测试bt工厂爱唯侦察，可能不反应总共公开可用的更新。莫得任何居品或组件是皆备安全的。

-->