开源仓库

共 9 个仓库 · 按最近更新排序

查看全部 →
同一句 OpenAI 兼容,四家的错误体是三种格式

同一句 OpenAI 兼容,四家的错误体是三种格式

一句话总结:我对着四家AI服务各发了一次无鉴权请求,只读响应头和错误体。结果发现「OpenAI兼容」在错误处理上根本不兼容:DeepSeek返回纯文本,Moonshot返回标准JSON但漏了一个内部灰度标记,智谱返回中文JSON且字段结构不同。顺带从响应头里看出了三家的CDN供应商。写调用代...

Atomic 本地推理服务器:一个端点接六个引擎,坑在兼容层

Atomic 本地推理服务器:一个端点接六个引擎,坑在兼容层

一句话总结:CatalystAtomic发布了一个本地推理服务器,用一个OpenAI兼容地址后面挂六个引擎:llama.cpp、vLLM、SGLang、TensorRT、MLX、Prism。它省掉的是「每个引擎一套启动脚本」,代价是「六个引擎能力的交集才是你能用到的」。换引擎不用改客户端代码,但也可能换完发...