NVIDIA/kvpress

kvpress

✅ 近期有维护

LLM KV cache compression made easy

1,241Stars

192Forks

+2近 7 天 Star

Python · Apache-2.0 · 最近推送 2026-10-27

官方仓库与安装文档 ↗

llm inference kv-cache kv-cache-compression long-context python pytorch transformers large-language-models

Star 历史

2025-09-292026-11-02

查看历史数据

日期	Stars
2026-10-04	1,224
2026-10-05	1,224
2026-10-06	1,224
2026-10-07	1,224
2026-10-08	1,224
2026-10-09	1,225
2026-10-10	1,226
2026-10-11	1,228
2026-10-12	1,228
2026-10-13	1,229
2026-10-14	1,230
2026-10-15	1,230
2026-10-16	1,230
2026-10-17	1,233
2026-10-18	1,233
2026-10-19	1,233
2026-10-20	1,235
2026-10-21	1,235
2026-10-22	1,236
2026-10-23	1,237
2026-10-24	1,237
2026-10-25	1,237
2026-10-26	1,239
2026-10-27	1,239
2026-10-28	1,240
2026-10-29	1,240
2026-10-30	1,240
2026-10-31	1,241
2026-11-01	1,241
2026-11-02	1,241

获取项目

git clone https://github.com/NVIDIA/kvpress.git

相关项目与平替候选

同领域不等于功能完全相同，选型前请核对官方文档和许可证。

LLMs-from-scratch

从零用纯 PyTorch 一步步手写一个完整 GPT 大语言模型的教学实战项目。

★ 107,704 peft

🤗 PEFT: State-of-the-art Parameter-Efficient Fine-Tuning.

★ 21,866 vllm

大模型推理和部署引擎，吞吐高、显存省，让开发者不用自己搭服务，就能快速上线各种开源模型。