vllm-project/aibrix
Cost-efficient and pluggable Infrastructure components for GenAI inference
⭐ 5.0k
⑂ 658
Go
Apache-2.0
· 8 小时前推送
5.0k
Watchers
0
贡献者
0
Commits
0
Releases
363
Open Issues
8 小时前
最近推送
原文
中文
暂无 README