intelligent-routing

2 个项目 · ⭐ 4.1k

llm-d/llm-d

Achieve state of the art inference performance with modern accelerators on Kubernetes

Shell ⭐ 4.1k ⑂ 694 Apache-2.0 · 11 小时前推送

ai cncf

11 小时前

最近推送

just-llms/justllms

Production-ready Python library for multi-provider LLM orchestration

Python ⭐ 43 ⑂ 4 MIT · 2026-07-22推送

ai cost-optimization

2026-07-22