开源仓库

共 9 个仓库 · 按最近更新排序

查看全部 →
10.87 倍需要什么条件:把 SpecPilot 的数字反解一遍 新

10.87 倍需要什么条件:把 SpecPilot 的数字反解一遍

一句话总结:加速比的理论上限是1/草稿成本。要拿到SpecPilot报的10.87倍,草稿成本必须低于9.2%,接受率至少0.95,草稿长度要到21到32。三个条件缺一个都到不了,而常规部署里草稿长度通常只设8。上一篇写完10.87倍,我自己心里没底。我没怀疑论文造假,只是没法判断这个...

SpecPilot:让 AI 自己改推理系统,单请求加速到 10.87 倍 新

SpecPilot:让 AI 自己改推理系统,单请求加速到 10.87 倍

一句话总结:伯克利、普林斯顿、斯坦福和英伟达联合开源的SpecPilot,让Agent自己找投机解码的性能瓶颈、自己写优化、自己验证效果。Qwen3.8-27B上单请求从4.46倍提到10.87倍,批处理从1.94倍到3.93倍,全程不训练、不改输出。看到10.87这个数字,我第一反应...