开源仓库

共 8 个仓库 · 按最近更新排序

查看全部 →
MiniCPM5-2B 本地部署实战:4GB 显存跑起来,附三种跑法与坑清单 新

MiniCPM5-2B 本地部署实战:4GB 显存跑起来,附三种跑法与坑清单

一句话总结:2.5B的MiniCPM5-2B用Q8量化约4GB显存就能跑,本文给llama.cpp、Ollama、Python调用三条路径的完整命令,以及上下文设太大、量化选错、模板不匹配这三类必踩的坑。上一篇解读讲了这个模型能干什么,这篇只讲怎么把它跑起来。选它的理由很实在:4GB显存,笔...

MiniCPM5-2B 深度解读:2.5B 参数的小钢炮,4GB 显存就能跑 新

MiniCPM5-2B 深度解读:2.5B 参数的小钢炮,4GB 显存就能跑

一句话总结:面壁智能的MiniCPM5-2B用2.5B参数做到131K上下文、图像输入和接近4B级的分数,Apache2.0可商用、4GB显存能跑,是端侧和低成本私有化部署里最值得看得一档。大模型卷参数卷到万亿,另一边的小模型也在较劲,只是声量小得多。MiniCPM5-2B就是这种「没什么...