nano-vllm

2 个项目 · ⭐ 123

slwang-ustc/nano-vllm-v1

Nano vLLM with vLLM v1's request scheduling strategy and chunked prefill

Python ⭐ 96 ⑂ 27 MIT · 2026-01-26推送

deep-learning inference

2026-01-26

最近推送

lora-sys/nano-vllm-interactive-guide

面向开发者与初学者的 nano-vLLM 交互式源码教程 - 通过 13 个 HTML 互动实验 + 13 章中文教程理解大模型推理引擎

JavaScript ⭐ 27 ⑂ 0 MIT · 2 天前推送

chinese llm-inference

2 天前