深声科技语音播放文章内容：在2023年，MLPerf组织发布了第一个MLPerf Inference v0.5的结果，这标志着机器学习推理基准测试的一个重要里程碑。虽然这个基准测试还不够成熟，但它已经吸引了包括平头哥和英伟达在内的巨头公司的广泛关注。这些公司都宣布他们在成绩公布后获得了第一。

自成立初期，MLPerf组织就一直致力于建立机器学习处理器的基准测试，以便它们能够像CPU那样被评估。在技术上讲，MLPerf基准测试仍处于初级阶段，它们甚至还没有完成所有必要的功能，但是该组织的努力已经引起了行业巨人的兴趣。

早在6月份，该组织就发布了第二个基准测试集MLPerf Inference v0.5。这是为了衡量各种加速器和系统执行训练后的神经网络速度和效率。尽管目前仅涵盖5个网络/基准，并且尚未包含功耗测试指标，但这已足以吸引主流芯片公司参与。

截至目前，一共有近600份结果提交给MLPerf，其中分布在40种不同的测试中。这表明，即使初始版本还不完善，也能覆盖很多用例，尤其是在专用加速器的情况下，它们通常针对特定用例进行优化。

作为更新，MLPerf v0.5分为五个基准，每个都提供四种方案：单路、多路、服务器及离线。此外，还提供两个分区选择：封闭分区与开放分区。封闭分区旨在评估平台是否能很好地执行预训练好的网络，而开放分区则允许更广泛的量化工作，使芯片公司可以展示其独创性解决方案。

深入分析结果显示，不同类型处理器都有所表现，从CPU到GPU，再到FPGA、DSP和专用ASIC等各领域，都有官方意见收到了。即使是Raspberry Pi 4也参与其中，其含光800加速器也出现在一些预期之外的结果中。

总体而言，这些初步成绩显示几乎每家芯片公司都能在某些类别中取得成功。在离线测试中，我们看到了Google TPUs从1到32几乎无缝扩展性能；NVIDIA Tesla加速器也表现突出；英特尔CPU位列前茅；高通骁龙855SoC则远超市场预期。

尽管这些早期版本还有待完善，但对于芯片公司来说，他们现在知道自己相对于竞争者的位置。而且，由于机器学习优化具有较高程度的开放性空间，这意味着他们还有许多机会来优化系统以准备未来正式比赛，以及设计新的硬件产品。此外，对客户来说，加快这一进程也是非常迫切的事情，因此随着第一个正式成绩公布，现在正是时候让产品进入性能实验室，并了解如何准备下一轮正式比赛。如果运气好的话，在不久将来，我们将能够将这种推理应用到自己的设备上，并把它们转换成可比较有意义的人类语言激动人心的是，看似遥不可及的事物正在逐渐成为现实！