GPT-Load Logo

GPT-Load

高性能 AI 接口透明代理

基于 Go 1.23+ 开发的企业级 AI 接口代理服务,支持 OpenAI、Google Gemini、Anthropic Claude 等多种 AI 服务提供商。 提供智能密钥管理、负载均衡、高并发处理和完善的监控功能。

Go 1.23+
后端语言
MySQL
数据存储
Redis
缓存系统
Vue 3
管理界面
快速启动
docker run -d --name gpt-load \
    -p 3001:3001 \
    -e AUTH_KEY=your-secure-key-here \
    -v "$(pwd)/data":/app/data \
    ghcr.io/tbphp/gpt-load:latest

# 访问管理界面:http://localhost:3001
⚠️
安全警告
请务必将 your-secure-key-here 替换为复杂的密钥! 使用默认或简单密钥存在严重安全风险。

系统架构

基于 Go 语言的高性能透明代理架构,支持分布式部署和水平扩展

数据流架构

客户端应用

Web/移动应用通过标准 OpenAI API 格式调用

HTTP/HTTPS 请求
Bearer Token 认证
JSON 格式交互

GPT-Load 代理层

核心代理服务,负责请求转发和管理

透明代理
密钥管理
负载均衡
请求日志

AI 服务提供商

多种 AI 服务的统一接入

OpenAI API
Google Gemini
Anthropic Claude
其他兼容服务

基础设施组件

MySQL 8.2+

持久化存储

配置数据
用户信息
请求日志

Redis

缓存与锁

密钥缓存
分布式锁
会话存储

Vue 3 管理后台

管理界面

实时监控
配置管理
日志查看

灵活的部署方式

单机部署

  • • Docker Compose 一键启动
  • • 包含完整的 MySQL + Redis
  • • 适合开发和小规模生产

集群部署

  • • Master/Slave 架构
  • • 水平扩展支持
  • • 高可用性保障
快速开始

3 步启动 GPT-Load

通过 Docker Compose 快速部署,包含完整的数据库和缓存服务

1. 克隆项目

从 GitHub 下载完整项目代码

git clone https://github.com/tbphp/gpt-load.git
cd gpt-load

2. 配置环境

复制并编辑环境配置文件

# 复制环境配置文件
cp .env.example .env

# 编辑配置(可选)
# vim .env

# 主要配置项:
# APP_PORT=3001
# APP_SECRET=your-secret-key

3. 启动服务

使用 Docker Compose 一键启动

# 启动服务(包含 MySQL 和 Redis)
docker compose up -d

# 访问管理界面
# http://localhost:3001

系统要求

Go 1.23+
运行环境
MySQL 8.2+
数据存储
Redis
缓存服务
Docker
容器运行时

立即开始使用 GPT-Load

几分钟内即可部署完成,开始享受高性能的 AI 接口代理服务