GGitHub 趋势观察站
每日 07:00 更新订阅EN

REPOWATCH / EXPLORE

下一个好工具,
从这里找到。

不止今日榜单。搜索所有已收录的开源项目,按用途找到适合你的工具。

428个开源项目已收录覆盖历史榜单 · 持续收录中

SEARCH RESULTS

模型与推理43

清除筛选 ↺
ashhart☆ 2,149

TensorFold

通过 Metal 或 CUDA 在本地加载语言模型并提供推理接口的 Zig 引擎。

Zig·最近上榜 2026-11-15
ggml-org☆ 134,518

llama.cpp

用 C/C++ 在本地加载 GGUF 模型并提供终端生成与服务接口的推理引擎。

C++·最近上榜 2026-11-13
Alishahryar1☆ 69,238

free-claude-code

在本地代理多种编程客户端的模型请求,接入不同的云端或本地推理后端。

Python·最近上榜 2026-11-13
FareedKhan-dev☆ 10,253

kimi-k3-in-c

在处理器上用磁盘流式加载运行 Kimi K3 模型的 C 语言推理引擎。

C·最近上榜 2026-11-05
JustVugg☆ 47,215

colibri

通过磁盘、内存与显存分层流式加载专家的纯 C 混合专家模型推理引擎。

C·最近上榜 2026-11-04
karpathy☆ 59,711

nanochat

串联分词、预训练、微调、评估与聊天推理的语言模型实验框架。

Python·最近上榜 2026-11-03
FlashML-org☆ 15,869

FreeToken

协调 CPU、内存与 GPU 资源以在本地运行混合专家模型的推理引擎。

Python·最近上榜 2026-11-03
vllm-project☆ 94,841

vllm

面向大语言模型的高吞吐、低显存占用推理与服务引擎。

Python·最近上榜 2026-10-22
lightseekorg☆ 2,463

tokenspeed

面向生产级 Agent 工作负载、分离控制与执行平面的高性能大模型推理引擎。

Python·最近上榜 2026-10-16
展示第 1–12 个,共 43 个项目
1 / 4下一页 →