← 返回专题广场
tiny-vllm
1 个项目 · ⭐ 1.1k1
Build your own high performance LLM inference engine in C++ and CUDA - a smaller version of vLLM
C++
⭐ 1.1k
⑂ 84
Apache-2.0
· 18 天前推送
18 天前
最近推送