当前位置:首页 > AI资讯 > 正文

Google 的 PLE 基准:85 个工程任务,最强智能体只拿 50.6 分

约 4338 字 · 预计阅读 11 分钟
一句话总结:Google Cloud AI 把 85 个"持照工程师愿意签收"的工程交付任务做成基准,七个 agent 框架里最好的配置平均只拿到 50.6%,每个任务烧掉 2700 万 token、耗时 63 分钟。

一个做结构设计的朋友看完这个基准的样例任务,说了一句很到位的话:这些活儿我会做,但我不敢让机器替我签字。

这句话正好是这个基准的题眼。它不是问 AI 懂不懂工程,是问 AI 交出来的东西,有没有人敢签字。

PLE 测的是「能不能签收」

PLE 全称 Physical-Engineering's Last Exam,Google Cloud AI Research 出品。85 个长周期 agent 任务,覆盖电气、土木、结构、机械四个方向。

任务的要求写得很硬:要能跨多格式的项目资料建模物理规律和规范条款,要优化材料与安装成本,要产出"持照审核人会签字的 2D/3D 设计包"。

Google 的 PLE 基准:85 个工程任务,最强智能体只拿 50.6 分

图 1:横轴为任务得分(0–100)。前沿模型在通用知识基准上已过 90 分,在 PLE 上均值 50.6 分,中间约 40 分的差距来自"交付物能不能签收"。数据来源:Google Cloud AI Research PLE 论文

这个设计把评分标准从"答案对不对"换成了"东西能不能用"。两者的距离比想象中大。

论文里有一句对比:前沿语言模型在流行知识基准上已经超过 90%,但在模拟真实计费工程工作的任务上过不了 51%。

PLE 的任务是怎么造出来的

两条造题路径,值得拆开看。

一条是专家出题:由执业工程师写,保证任务在专业上站得住。另一条叫 Co-Authored,用一个"创作者—解题者"的对抗流水线生成:先让一个 agent 出题,再让另一个 agent 去解,解出来了就把难度加大,最后过专家校验。

第二条路径的用意很清楚。人工出题贵,而且高手出的题往往"太规矩"。用对抗方式刷出来的题,难度会自然爬到当前模型的能力边缘。

85 个任务里,29 个公开,56 个留作竞赛榜单的私有集。公开部分连同 grader 和 agent harness 一起放出。

PLE 的 50.6 分是怎么测出来的

七个公开可用的 agent 框架都跑了一遍,取每个任务的平均分,最好的那个配置拿到 50.6%。

关键是代价:每个任务平均消耗 2700 万 token、63 分钟。

这两个数放在一起看才有意思。63 分钟 2700 万 token,折下来是每秒 7143 token。单条推理流跑不到这个速度,差着一到两个数量级。

所以这 2700 万里绝大部分不是模型生成的,是 agent 循环里反复重读的上下文。按每轮重读 20 万 token 算,2700 万相当于 135 轮;63 分钟摊下来,每轮 28 秒。

这个数字比 50.6% 更能说明当前 agent 的形态:它不是"想一次想明白",是"反复看、反复改、反复验证"。真人的设计流程也长这样,只是真人看图纸的速度比 agent 快得多,而且不会在第三十轮把前面的约束忘掉。

按 6 元/百万 token 的输入价折算,一个任务 162 元。听着不贵。但这是"平均",跑完 85 个任务要 23 亿 token。

为什么工程交付比写代码难

代码有个天然优势:能跑。跑不起来就是错,跑起来至少过了一关。

工程交付物没有这个特权。一张结构图对不对,要看荷载路径、要看规范条款、要看施工可行性、要看成本,还要看画得清不清楚。这些东西没有一个编译器能替你判定。

PLE 的 grader 是可执行的,但它比对的是"参考交付物",不是"跑通"。这意味着评分对格式、对细节的容错很低。

论文里点出的三项能力,恰好是当前 agent 最弱的三项:

  • 跨多格式资料建模物理约束(规范是 PDF,图纸是 DWG,参数在 Excel 里)
  • 在材料与安装成本之间做优化(这是多目标,没有唯一解)
  • 产出审核人能签字的成品(这是格式与完整性问题,不是智力问题)

第三项最容易被低估。一个 agent 算出正确答案但画了一张标注不全的图,在计费场景里等于零。

另一边:RWE-Bench 想把它变成训练场

同一个月,Xplore AI 发布了 Real World Engineering Bench,20 个任务,机械、电气、航空三个方向,每个任务用基于物理的 verifier 自动评分。

和 PLE 的区别在定位。PLE 是考卷,RWE-Bench 想做训练场——它背后是强化学习的思路:模型在有可验证奖励的领域里学得最快,代码和数学就是这样被啃下来的。

Xplore AI 的判断是:工程领域的训练数据不在公开仓库里,而在公司内部和资深工程师脑子里。所以要做的是高保真的 RL 环境,不是又一个排行榜。

Lightspeed 投了这家公司,公开发言里的那句"物理工程已经成为可验证强化学习的主要前沿"值得记一下。资本判断和基准发布撞在同一个月,通常不是巧合。

这条路线如果成立,PLE 今天的 50.6% 就是明年的及格线。但 RL 环境造起来比考卷慢得多——考卷只要有人会做,环境要求每个任务都能自动判分。

从漏洞挖掘那边看,差距在哪

AI 在软件缺陷上已经能出活了。前阵子有个公开的账单:GPT-6 在一个安全项目里跑出 1724 个漏洞,其中 948 个成功提权,折下来 1279 美元一个提权,这笔账我拆过一遍。软件领域能这么算,因为"成功提权"是个二值结果,机器自己就能判。

工程交付没有这个二值结果。你能算出"这份图纸能不能签收"吗?只有持照工程师能。

所以两个领域的进展速度会长期不一致。软件侧已经在讨论"每个漏洞多少钱",工程侧还在讨论"能不能过 51 分"。

顺带说一句,从公开账单反推流水线的方法也有边界,那次我试过,四个未知数只能解出三个。PLE 这种只公布均值和总消耗的论文,能反推的空间更小。

关于 PLE 的五个问题

50.6% 是什么口径? 七个 agent harness 里最优配置的任务均分,不是通过率。均值意味着部分任务得分很高、部分接近零。

为什么只公开 29 个任务? 防污染。私有集 56 个留给竞赛榜单,避免题目进入训练数据。

63 分钟是硬限制吗? 不是限制,是观测到的平均耗时。任务的复杂度决定了它快不了。

这个分数能说明 AI 不能做工程设计吗? 不能。它说明当前 agent 配置下,端到端交付还不到可签收的水平。拆开做单点任务(算荷载、查规范)的表现会好得多。

RWE-Bench 和 PLE 哪个更重要? 短期看 PLE,因为它给出了公开的分数坐标。长期看 RWE-Bench 这类环境,因为训练信号比考卷更能推动能力上位。

结语

50.6 这个数字不好看,但它诚实。它测的不是模型聪不聪明,是交付物能不能过审。

对做 agent 产品的人来说,这份基准最有用的部分不是分数,是那个 2700 万 token 和 63 分钟。它给出了一个真实的任务成本量级:一次专业级交付,按现在的架构要烧掉两块多钱的 token 乘以 60 多倍,加上一小时。

如果你的产品声称能替代专业人士,先把这两个数对上。对不上,说明你测的是另一个任务。

参考资料

目录导航
  • PLE 测的是「能不能签收」
  • PLE 的任务是怎么造出来的
  • PLE 的 50.6 分是怎么测出来的
  • 为什么工程交付比写代码难
  • 另一边:RWE-Bench 想把它变成训练场
  • 从漏洞挖掘那边看,差距在哪
  • 关于 PLE 的五个问题
  • 结语
    • 参考资料
  • 相关文章:

  • 实时交互基准 Realtime-Bench:想得越久,成功率反而越低
  • 发表评论

    ◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。