thu-pacman/chitu

chitu

✅ 近期有维护

High-performance inference framework for large language models, focusing on efficiency, flexibility, and availability.

2,996Stars

249Forks

+5近 7 天 Star

Python · Apache-2.0 · 最近推送 2026-11-02

官方仓库与安装文档 ↗

deepseek gpu llm pytorch llm-serving model-serving

GitValue · 价值证据

待补证 · 证据覆盖 0%

试跑评分；文档声明与实测分开。未收集证据不代表项目没有价值。

Star 历史

2025-09-292026-11-02

查看历史数据

日期	Stars
2026-10-04	2,975
2026-10-05	2,975
2026-10-06	2,976
2026-10-07	2,977
2026-10-08	2,977
2026-10-09	2,977
2026-10-10	2,977
2026-10-11	2,977
2026-10-12	2,980
2026-10-13	2,980
2026-10-14	2,982
2026-10-15	2,984
2026-10-16	2,984
2026-10-17	2,984
2026-10-18	2,984
2026-10-19	2,985
2026-10-20	2,987
2026-10-21	2,988
2026-10-22	2,988
2026-10-23	2,988
2026-10-24	2,989
2026-10-25	2,989
2026-10-26	2,990
2026-10-27	2,992
2026-10-28	2,993
2026-10-29	2,996
2026-10-30	2,996
2026-10-31	2,996
2026-11-01	2,996
2026-11-02	2,996

获取项目

git clone https://github.com/thu-pacman/chitu.git

克隆仅获取源码；依赖与安装步骤请参照项目的 README.

相关项目与平替候选

同领域不等于功能完全相同，选型前请核对官方文档和许可证。

vllm

大模型推理和部署引擎，吞吐高、显存省，让开发者不用自己搭服务，就能快速上线各种开源模型。

★ 96,180 sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 38,386 litellm

统一 100+ 大模型 API 调用格式的代理层，无论用哪家模型都能用统一 OpenAI 格式调用。