Michael-A-Kuykendall/shimmy
⚡ Pure-Rust WebGPU inference engine — OpenAI-API compatible, GGUF native, runs on any GPU. No Python. No llama.cpp. Single binary.
⭐ 5.8k
⑂ 558
Rust
Apache-2.0
· 2 天前推送
5.8k
Watchers
0
贡献者
0
Commits
0
Releases
12
Open Issues
2 天前
最近推送
原文
中文
暂无 README