ai-dynamo

ai-dynamo/dynamo

A Datacenter Scale Distributed Inference Serving Framework

⭐ 7.8k ⑂ 1.5k Rust NOASSERTION · 4 小时前推送
https://docs.nvidia.com/dynamo/latest
diffusiondisaggregated-servingkubernetesllm-inferenceomnirouting-enginerustsglangtensorrt-llmvllm
7.8k
Watchers
0
贡献者
0
Commits
0
Releases
1.3k
Open Issues
4 小时前
最近推送

📦 版本动态

v1.4.1 13 小时前
v1.4.0 7 天前
v1.5.0-nemotron-3.5-lightning-dev.1 预发布 11 天前
v1.3.1 17 天前
v1.4.0-kimi-k3-dev.1 预发布 26 天前
原文 中文
暂无 README