您现在的位置是：首页 >学无止境 >使用 vLLM + Open WebUI 部署 Qwen2.5 大模型网站首页学无止境

使用 vLLM + Open WebUI 部署 Qwen2.5 大模型

阿伟大帅比 2026-07-02 00:01:05
简介使用 vLLM + Open WebUI 部署 Qwen2.5 大模型

本文选择部署的具体模型是 Qwen2.5-Coder-32B-Instruct-AWQ，但教程应该也适用于其他 Qwen2.5 系列的模型。

相关的官方仓库/文档链接

Qwen2.5

Qwen 是阿里巴巴集团 Qwen 团队研发的大语言模型和大型多模态模型系列。

仓库：GitHub - QwenLM/Qwen2.5-Coder: Qwen2.5-Coder is the code version of Qwen2.5, the large language model series developed by Qwen team, Alibaba Cloud.

文档：Qwen

Hugging Face：https://huggingface.co/Qwen/Qwen2.5-Coder-32B-Instruct-AWQ

vLLM

vLLM 是一个快速且易于使用的

风语者！平时喜欢研究各种技术，目前在从事后端开发工作，热爱生活、热爱工作。

站长推荐