EricLBuehler/candle-vllm

candle-vllm

✅ 近期有维护

Efficent platform for inference and serving local LLMs including an OpenAI compatible API server.

740Stars
91Forks
+2近 7 天 Star

Rust · MIT · 最近推送 2026-10-18

官方仓库与安装文档 ↗

GitValue · 价值证据

待补证 · 证据覆盖 0%

试跑评分;文档声明与实测分开。未收集证据不代表项目没有价值。

Star 历史

2025-09-292026-11-02
查看历史数据
日期Stars
2026-10-04729
2026-10-05729
2026-10-06730
2026-10-07730
2026-10-08731
2026-10-09731
2026-10-10732
2026-10-11732
2026-10-12733
2026-10-13733
2026-10-14733
2026-10-15734
2026-10-16734
2026-10-17734
2026-10-18734
2026-10-19735
2026-10-20735
2026-10-21735
2026-10-22736
2026-10-23737
2026-10-24737
2026-10-25737
2026-10-26738
2026-10-27738
2026-10-28738
2026-10-29738
2026-10-30738
2026-10-31739
2026-11-01739
2026-11-02740

获取项目

git clone https://github.com/EricLBuehler/candle-vllm.git

克隆仅获取源码;依赖与安装步骤请参照项目的 README.

相关项目与平替候选

同领域不等于功能完全相同,选型前请核对官方文档和许可证。