withcatai/node-llama-cpp

node-llama-cpp

✅ 近期有维护

Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level

2,197Stars

228Forks

+4近 7 天 Star

TypeScript · MIT · 最近推送 2026-10-20

官方仓库与安装文档 ↗

ai bindings catai llama llama-cpp llm nodejs prebuilt-binaries grammar gguf

Star 历史

2025-09-292026-11-02

查看历史数据

日期	Stars
2026-10-04	2,182
2026-10-05	2,182
2026-10-06	2,182
2026-10-07	2,184
2026-10-08	2,185
2026-10-09	2,185
2026-10-10	2,185
2026-10-11	2,186
2026-10-12	2,186
2026-10-13	2,186
2026-10-14	2,187
2026-10-15	2,188
2026-10-16	2,189
2026-10-17	2,189
2026-10-18	2,191
2026-10-19	2,191
2026-10-20	2,191
2026-10-21	2,191
2026-10-22	2,191
2026-10-23	2,193
2026-10-24	2,193
2026-10-25	2,193
2026-10-26	2,194
2026-10-27	2,195
2026-10-28	2,196
2026-10-29	2,197
2026-10-30	2,197
2026-10-31	2,197
2026-11-01	2,197
2026-11-02	2,197

获取项目

git clone https://github.com/withcatai/node-llama-cpp.git

相关项目与平替候选

同领域不等于功能完全相同，选型前请核对官方文档和许可证。

LocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.

★ 50,115 hermes-agent

Nous Research 推出的开源 AI 智能体，支持 Claude、GPT 等多种模型，可随使用不断成长。

★ 259,584 firecrawl

把网页抓取并转成干净 Markdown 数据，供 AI 智能体调用，适合做搜索与数据抽取。