vLLM

PagedAttention加速/连续批处理/量化/多GPU，生产级推理。