runpod-workers/worker-vllm
The Runpod worker template for serving our large language model endpoints. Powered by vLLM.
⭐ 465
⑂ 388
Python
MIT
· 2 天前推送
465
Watchers
0
贡献者
0
Commits
0
Releases
28
Open Issues
2 天前
最近推送
原文
中文
暂无 README