FastGPTFastGPT

部署与运维

FastGPT 自部署架构概览、资源规划、依赖配置与运维指南。

系统架构与组件拓扑

FastGPT 私有化部署由核心应用服务、插件与沙箱执行服务,以及 MongoDB、Redis、向量数据库、S3 对象存储四类数据服务协同构成:

FastGPT 核心部署拓扑FastGPT 核心部署拓扑

访问入口与外围服务按部署方案配置,向量数据库选用一种受支持的后端。

插件与沙箱执行服务插件与沙箱执行服务

资源规划与基准配置

使用代表性资料与提问进行容量验证。资源需求取决于向量维度、分块数量、模型延迟、导入并发及保留周期;生产限额应依据实测结果确定。

工作负载观测指标验收方式
测试体验所需服务的峰值内存、磁盘占用完成导入、检索和对话全流程
生产运行并发请求、队列等待、p95 延迟、向量索引大小代表性负载下满足服务目标
高可用副本拓扑、恢复耗时、备份容量在预发布环境验证故障切换与恢复

向量数据库选型与优先级

系统在启动时读取环境变量,按固定优先级选择第一个有效配置的驱动:

  1. SeekDB(SEEKDB_URL):通过 MySQL 协议接入向量驱动。
  2. OceanBase(OCEANBASE_URL):OceanBase 向量驱动,按服务端版本配置支持的能力。
  3. PostgreSQL(PG_URL):内置默认驱动,采用 pgvector 插件,运维链路极简。
  4. Milvus(MILVUS_ADDRESS):版本要求 2.5.16 以上,启用 modeldata_v2 单表,由 Milvus 协同存储向量与 BM25 全文。
  5. OpenGauss(OPENGAUSS_URL):国产化信创场景适配。

部署路径

部署方案适用场景引导链接
Docker Compose单机私有化、局域网快速交付与开发测试Docker Compose 部署指南
Sealos 云原生容器化部署,弹性与冗余能力需单独配置和验证Sealos 部署指南
源码本地调试平台定制二开、代码断点调试与插件研发本地源码开发环境搭建

核心配置与运维导航

在 GitHub 上编辑

文件更新时间

本页导航

准备好开始了吗?

让你的企业知识真正被 AI 用起来