您现在的位置是:首页 >技术教程 >Windows 本地部署大模型 OpenWebUI+Ollama网站首页技术教程

Windows 本地部署大模型 OpenWebUI+Ollama

Byron丶 2025-04-04 12:01:02
简介Windows 本地部署大模型 OpenWebUI+Ollama

安装Ollama

Ollama官方网址:https://ollama.com

下载运行大模型

  • 在Ollama官网中查看需要下载的大模型
    https://ollama.com/library
    在这里插入图片描述
  • 复制图片中的链接
    打开cmd,运行此命令(此过程会时间会很久)
    在这里插入图片描述

下载Miniconda

配置Anaconda 软件仓库

更改里面的内容修改为如下内容(可在清华大学Anaconda仓库中找到):
在这里插入图片描述

创建Conda环境命令

  • 打开cmd执行如下命令创建环境
    conda create -n py311 python=3.11
    
    在这里插入图片描述

安装OpenwebUI

在这里插入图片描述

pip install -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple open-webui

这个过程可能会很久

  • 安装完成之后使用open-webui serve运行open-webui
    运行刚开始运行时可能会遇见问题(报错,依赖找不到问题):
    在这里插入图片描述

  • 需要下载此模型文件,放在对应文件夹下:
    在这里插入图片描述

  • 再运行open-webuiopen-webui serve
    在这里插入图片描述

  • 成功后打开链接:http://localhost:8080
    注册后登录
    在这里插入图片描述

  • 进去后可自动识别本地大模型
    在这里插入图片描述
    到在这里本地大模型就部署好啦~

PS:此教程参考b站,视频链接: 点击进入

风语者!平时喜欢研究各种技术,目前在从事后端开发工作,热爱生活、热爱工作。