omlx
✅ 近期有维护面向 Apple Silicon 的 LLM 推理服务，支持连续批处理与 SSD 缓存，可从 macOS 菜单栏直接管理，解决本地部署模型吞吐低、管理繁琐的问题。
23,304Stars
2,088Forks
+213近 7 天 Star
Python · Apache-2.0 · 最近推送 2026-11-03
官方仓库与安装文档 ↗GitValue · 价值证据
待补证 · 证据覆盖 0%
试跑评分；文档声明与实测分开。未收集证据不代表项目没有价值。
Star 历史
2026-02-092026-11-03
查看历史数据
| 日期 | Stars |
|---|---|
| 2026-10-05 | 22,489 |
| 2026-10-06 | 22,534 |
| 2026-10-07 | 22,567 |
| 2026-10-08 | 22,593 |
| 2026-10-09 | 22,625 |
| 2026-10-10 | 22,653 |
| 2026-10-11 | 22,676 |
| 2026-10-12 | 22,702 |
| 2026-10-13 | 22,741 |
| 2026-10-14 | 22,779 |
| 2026-10-15 | 22,815 |
| 2026-10-16 | 22,840 |
| 2026-10-17 | 22,857 |
| 2026-10-18 | 22,882 |
| 2026-10-19 | 22,914 |
| 2026-10-20 | 22,944 |
| 2026-10-21 | 22,958 |
| 2026-10-22 | 22,981 |
| 2026-10-23 | 23,004 |
| 2026-10-24 | 23,021 |
| 2026-10-25 | 23,052 |
| 2026-10-26 | 23,078 |
| 2026-10-27 | 23,114 |
| 2026-10-28 | 23,138 |
| 2026-10-29 | 23,157 |
| 2026-10-30 | 23,207 |
| 2026-10-31 | 23,235 |
| 2026-11-01 | 23,268 |
| 2026-11-02 | 23,282 |
| 2026-11-03 | 23,304 |
获取项目
git clone https://github.com/jundot/omlx.git克隆仅获取源码；依赖与安装步骤请参照项目的 README.
相关项目与平替候选
同领域不等于功能完全相同，选型前请核对官方文档和许可证。