Ollama+ragflow 构建AI大模型
1下载docker 及其所需环境
1.1配置环境
1.1.1打开虚拟化
Window系统安装 WSL 2 之前,必须启用“虚拟机平台”可选功能。
打开使用于Linux的Windows子系统
![]() |
Ctrl +shift + Esc 打开任务管理器
点击性能查看虚拟化有没有打开,如果显示已禁用,点击启动应用打开虚拟化
1.1.2 下载并安装wsl
在管理员模式下打开 PowerShell 或 Windows 命令提示符,方法是右键单击并选择“以管理员身份运行”或者按Window + R键输入cmd,然后输入 wsl --install 命令。使用 wsl --install 命令安装的新 Linux 安装将默认设置为 WSL 2。
wsl --set-version 命令可用于从 WSL 2 降级到 WSL 1,或将以前安装的 Linux 发行版从 WSL 1 更新到 WSL 2。要查看 Linux 发行版是设置为 WSL 1 还是 WSL 2,请使用命令 wsl -l -v。要更改版本,输入 wsl --set-version <distro name> 2 命令将 <distro name> 替换为要更新的 Linux 发行版的名称。输入wsl pwd 可以查看当前目录路径在 WSL 中的装载
1.2 下载docker
直接去docker官网下载适配系统的版本,Window一般选择AMD 64
Docker 官网:Docker: Accelerated Container Application Development
下载完直接安装就可
打开命令行,输入docker 指令,如果出现如下指令,就说明已经安装成功了

1.3 配置docker镜像源

点击设置,点击Docker Engine,输入镜像源
注意flase后面添加一个逗号(为了符合格式要求)
2.下载ollama 及所需模型
2.1.下载ollama
Ollama是一个开源的大型语言模型服务,提供了类似OpenAI的API接口和聊天界面,可以非常方便地部署最新版本的GPT模型并通过接口使用。支持热加载模型文件,无需重新启动即可切换不同的模型
直接去ollama官网下载就可
Ollama 官网:Ollama
2.2添加环境变量
打开高级系统设置,打开环境变量,添加OLLAMA_HOST和OLLAMA_MODELS两个变量

2.3 下载模型(deepseek-r1举例)
按Window + R键输入cmd,输入ollama run deepseek-r1,所需模型名称在ollama官网都有
可通过ollama list 来查看我们现在有哪些模型
3.安装RAGFlow
RAGflow 是一种结合 RAG(Retrieval-Augmented Generation) 和工作流优化的新技术架构。旨在提升生成式 AI 系统的效率和性能。它主要适用于需要动态生成内容且依赖外部知识库的场景,例如智能客服、文档生成、数据分析等
安装网址:https://github.com/infiniflow/ragflow
点击code下载并解压文件
然后找到ragflow\ragflow-main\docker\.env
将slim这行注释掉并去掉87行的注释

因为这样有embedding models


[如果你遇到 Docker 镜像拉不下来的问题,可以在 docker/.env 文件内根据变量 RAGFLOW_IMAGE 的注释提示选择华为云或者阿里云的相应镜像。
4.搭建docker 和ragflow
进入终端输入:cd ragflow
启动docker容器:输入docker compose -f docker-compose.yml up -d
或者docker compose up -d
(拉取过程可能有点慢)
完成后运行检查服务器状态

docker logs -f ragflow-server
打开浏览器输入:localhost:80

然后进行注册和登录
进入后点击设置,点击模型供应商,添加ollama模型
模型类型选chat或者 embedding都可以
模型名称:deepseep-r1:7b
基础Url:hettp:// …… :11434
将中间的……换成你自己的IPv4 地址
打开终端输入ipconfig,找到IPv4 地址复制过去就好了
最大token数随便填,最好填大一点
然后点击确定
点开系统模型设置,设置如下:
![]() |
然后就可以新建知识库,将我们自己的文档上传,然后一定要点击解析
解析完成后,点击聊天,新建一个小助理,在知识库那里选择你所建立的知识库
里面有一些默认选项可以不去操作,直接点击确定就OK了’
「智能机器人开发者大赛」官方平台,致力于为开发者和参赛选手提供赛事技术指导、行业标准解读及团队实战案例解析;聚焦智能机器人开发全栈技术闭环,助力开发者攻克技术瓶颈,促进软硬件集成、场景应用及商业化落地的深度研讨。 加入智能机器人开发者社区iRobot Developer,与全球极客并肩突破技术边界,定义机器人开发的未来范式!
更多推荐





所有评论(0)