llm-d

llm-d/llm-d

Achieve state of the art inference performance with modern accelerators on Kubernetes

⭐ 4.1k ⑂ 694 Shell Apache-2.0 · 9 小时前推送
4.1k
Watchers
0
贡献者
0
Commits
0
Releases
213
Open Issues
9 小时前
最近推送
原文 中文
暂无 README