开源仓库

共 9 个仓库 · 按最近更新排序

查看全部 →
Kimi K3.1 Pro 的 1.56TB:8 卡机装不下,下载 48 小时

Kimi K3.1 Pro 的 1.56TB:8 卡机装不下,下载 48 小时

一句话总结:KimiK3.1Pro总参数2.78万亿、激活1040亿,权重文件1.56TB,折合4.49bit/参数;单机8卡H200共1128GB,缺口432GB,要12张卡才装得下权重。朋友在做投研agent,看到K3.1Pro开源,问能不能在他们那台8卡机上自...

Kimi K2.7 Code 自托管:640GB 权重,消费卡差 27 倍

Kimi K2.7 Code 自托管:640GB 权重,消费卡差 27 倍

一句话总结:KimiK2.7Code是1T总参数、32B激活的MoE编码模型,官方直接发了原生INT4权重,聚合显存640GB。8张H200能跑,4张MI300X也能跑。消费级只有一条路:Unsloth的1.8bitGGUF加内存卸载,单张24GB卡能启动,速度掉到个位...