ztxz16/fastllm

fastllm

✅ 近期有维护

fastllm是后端无依赖的高性能大模型推理库,帮助您在大部分设备上高效推理大模型!

5,130Stars
505Forks
+9近 7 天 Star

C++ · Apache-2.0 · 最近推送 2026-11-02

官方仓库与安装文档 ↗

GitValue · 价值证据

待补证 · 证据覆盖 0%

试跑评分;文档声明与实测分开。未收集证据不代表项目没有价值。

Star 历史

2025-09-292026-11-03
查看历史数据
日期Stars
2026-10-055,081
2026-10-065,081
2026-10-075,083
2026-10-085,086
2026-10-095,090
2026-10-105,091
2026-10-115,092
2026-10-125,094
2026-10-135,096
2026-10-145,100
2026-10-155,100
2026-10-165,101
2026-10-175,101
2026-10-185,103
2026-10-195,104
2026-10-205,106
2026-10-215,108
2026-10-225,110
2026-10-235,114
2026-10-245,116
2026-10-255,119
2026-10-265,120
2026-10-275,124
2026-10-285,127
2026-10-295,127
2026-10-305,130
2026-10-315,130
2026-11-015,130
2026-11-025,130
2026-11-035,130

获取项目

git clone https://github.com/ztxz16/fastllm.git

克隆仅获取源码;依赖与安装步骤请参照项目的 README.

相关项目与平替候选

同领域不等于功能完全相同,选型前请核对官方文档和许可证。