Skip to content

游侠安全网

关注网络与数据安全

Primary Menu
  • 业界
  • 安全
  • 网络
  • 办公
  • 厂商
  • 培训
  • 应用
  • 影音
  • 数码
  • 文摘
  • 猎头
  • 程序
  • 站长
  • 系统
  • 随笔
  • 应用

使用Docker搭建基于LLM大模型的知识库系统FastGPT

网路游侠 2024年4月25日 2 minutes read

FastGPT 是一个基于 LLM 大语言模型的开源知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!基于FastGPT可以实现像AI客服、聊天、知识库、自动数据预处理、自动数据预处理等场景,还能对外提供API,目前该项目已支持基于Docker的私有化部署方案,下面简单减少下如何进行部署。

前提条件

  • 有一台支持Docker的服务器或NAS
  • 有ChatGPT、文心一言、讯飞星火、阿里通义等帐号或API使用权限

部署方法

由于这个项目涉及到3个Docker镜像,所以推荐使用Docker-Dompose部署。如果你使用的是服务器则需要先安装Docker-Compose:

pip3 install docker-compose

如果你用的群辉或威联通,则不需要再安装了,因为NAS系统已经自带了。

1. 开始正式部署前,先找一个合适的位置创建一个目录,本文以 /share/docker 目录为例,在此目录下创建名字为fastgpt的目录(你也可以改成自己喜欢的名字),目录如下

/share/docker/fastgpt

2. 接着再在fastgpt目录下创建3个目录,分别为pg、mongo和fastgpt,并且在这3个目录下下都创建一个目录,名为data,完整目录如下

/share/docker/fastgpt/pg/data/share/docker/fastgpt/mongo/data/share/docker/fastgpt/fastgpt/data

3. 然后复制下面的内容,并将其中映射的目录和端口改成你自己合适的

version: '3.8'services: pg: image: ankane/pgvector:v0.4.2 container_name: pg restart: unless-stopped ports: - 5432:5432 network_mode: bridge environment: - POSTGRES_USER=username - POSTGRES_PASSWORD=password - POSTGRES_DB=postgres volumes: - /share/Container/fastgpt/pg/data:/var/lib/postgresql/data mongo: image: mongo:5.0.18 container_name: mongo restart: unless-stopped ports: - 27017:27017 network_mode: bridge environment: - MONGO_INITDB_ROOT_USERNAME=username - MONGO_INITDB_ROOT_PASSWORD=password volumes: - /share/Container/fastgpt/mongo/data:/data/db oneapi: container_name: oneapi image: justsong/one-api:latest ports: - 3001:3000 network_mode: bridge volumes: - /share/Container/fastgpt/oneapi/data:/data depends_on: - mongo - pg restart: unless-stopped environment: - TZ=Asia/Shanghai fastgpt: container_name: fastgpt image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest ports: - 3000:3000 network_mode: bridge volumes: - /share/Container/fastgpt/fastgpt/data:/app/data/ depends_on: - mongo - pg - oneapi restart: unless-stopped environment: - DEFAULT_ROOT_PSW=123456 - OPENAI_BASE_URL=https://api.openai.com/v1 - CHAT_API_KEY=openai的api key - DB_MAX_LINK=5 - TOKEN_KEY=any - ROOT_KEY=root_key - MONGODB_URI=mongodb://username:password@192.168.31.91:27017/?authSource=admin - MONGODB_NAME=fastgpt - PG_HOST=192.168.31.91 - PG_PORT=5432 - PG_USER=username - PG_PASSWORD=password - PG_DB_NAME=postgres

注意

  • DEFAULT_ROOT_PSW:是默认的登录密码,设置成你想设置的
  • OPENAI_BASE_URL: 如果你没有代理OpenAI,则不要改
  • CHAT_API_KEY:OpenAI的API key
  • MONGODB_URI: 注意里面的192.168.31.91要改成你自己的ip
  • PG_HOST:注意里面的192.168.31.91要改成你自己的ip

4. 确认无误后,则可以开始部署了

服务器部署,创建一个文件compose.yml,并发以上内容粘贴到里面,在终端执行以下命令,等待完成即可。

docker-compose up -d

NAS部署,使用群辉容器管理器中的项目或威联通容器管理器中的应用程序功能,同样将上面的内容复制进去,启动或创建即可。当然也可以直接向服务器上部署一直,直接到终端上操作。

  • 群辉中的

使用Docker搭建基于LLM大模型的知识库系统FastGPT

  • 威联通中的

使用Docker搭建基于LLM大模型的知识库系统FastGPT

5. 等所有容器都启动完成后,在浏览器中输入ip+3000,接口打开fastgpt的web界面,用户名为root,密码就是上面提到的密码。

使用Docker搭建基于LLM大模型的知识库系统FastGPT

点击“立即开始”,进入到登录界面

6. 进入“应用”界面,创建一个应用,保存并预览,可以在右边测试效果

7. 应用创建完成后,就可以进入“聊天”见面,新建一个对话,既可以开始为AI聊天啦

使用Docker搭建基于LLM大模型的知识库系统FastGPT

总结

以上就是FastGPT简单的搭建过程,在实际的使用中,还是需要针对自己的需求和场景来配置应用程序,比如你可以加入导入自己的知识库来增强AI的处理能力。目前项目默认支持ChatGPT的模型,如果想体验其他厂商的模型,可以借助另一个项目one-api来实现集成,感兴趣的朋友可以留言获取。

总之一句话,这个项目的可玩性非常高,但是怎么玩、玩的好不好,还需要不断去摸索!

转自:https://baijiahao.baidu.com/s?id=1775105406410340839

相关内容:

  • 内存安全周报第116期|在ABB Flow Computer中发现高风险漏洞
  • SIM卡暗藏危险,被黑客利用操纵手机,全球10亿人可能中招!
  • 网络安全态势报告:个人信息和数据泄露风险严峻
  • 无惧Apache Log4j2 漏洞, 白山云科技可实现精准检测精准防御
  • 2024年最安全的十个Linux桌面发行版!
  • 阿里安全再曝Linux内核漏洞:9成Android手机可被控制
Tags: ChatGPT Docker FastGPT LLM LLM大模型 大模型

Post navigation

Previous: 秒懂:帮你分清GPT、ChatGPT和Langchain
Next: 教育部:对高校实验室安全分级分类管理

相关资讯

快速入门FreeFileSync:免费开源,数据同步备份神器
  • 应用

快速入门FreeFileSync:免费开源,数据同步备份神器

网路游侠 2026年5月29日
20260516180520569916
  • 应用

GStack 拆解:YC CEO 的 23 个 AI 角色编程工作流

网路游侠 2026年5月17日
快手 KroWork 做个桌面软件的四个实测,只有第三个最实用
  • 应用

快手 KroWork 做个桌面软件的四个实测,第三个最实用

网路游侠 2026年5月9日

最近更新

  • 法国政府加密通讯平台 Tchap 遭黑客入侵,官方宣称加密聊天记录未泄露
  • 告别繁琐代码!WordPress 网站添加统计代码的终极解决方案
  • 写了一款记录U盘插拔、文件操作,并给操作人拍照的软件
  • 快速入门FreeFileSync:免费开源,数据同步备份神器
  • 免费日志审计软件 GreenLogAudit 发布 v1.0.5
  • 网络安全检查清单(2026版)|等保合规自查必备Checklist
  • 什么是 nDPI?开源深度包检测引擎 nDPI 全面解析
  • Windows日志采集工具:从NXLog到Winlogbeat,国产免费客户端只有WinLogAgent
  • 强迫症狂喜:WinLogAgent 1.0.3 升级:目录只有1个exe啦!
  • WinLogAgent 1.0.3 发布:可能是这个星球上“违反广告法般漂亮”的 Windows 日志采集客户端,永久免费!

可能错过

20260610043908045002
  • 业界

法国政府加密通讯平台 Tchap 遭黑客入侵,官方宣称加密聊天记录未泄露

网路游侠 2026年6月10日
20260609180436920351
  • 站长

告别繁琐代码!WordPress 网站添加统计代码的终极解决方案

网路游侠 2026年6月10日
20260530155614841775
  • 安全
  • 随笔

写了一款记录U盘插拔、文件操作,并给操作人拍照的软件

网路游侠 2026年5月30日
快速入门FreeFileSync:免费开源,数据同步备份神器
  • 应用

快速入门FreeFileSync:免费开源,数据同步备份神器

网路游侠 2026年5月29日
  • 业界
  • 安全
  • 网络
  • 办公
  • 厂商
  • 培训
  • 应用
  • 影音
  • 数码
  • 文摘
  • 猎头
  • 程序
  • 站长
  • 系统
  • 随笔
陕ICP备11003551号-2 Copyright YouXia.ORG(游侠安全网)© All rights reserved. | MoreNews by AF themes.