AI 坐席辅助 + 机器人自助问答系统。基于 RAG + Agent 编排 + 私有化大模型，为银行信用卡中心提供智能客服能力。
这是银行级私有化智能客服的参考实现，包含完整的检索增强、Agent 编排、合规过滤、实时监控能力，适合作为私有化部署的技术基座，而非开箱即用的 SaaS。
graph TB
subgraph ACCESS["Access Layer 接入层"]
direction LR
A1["Web Chat<br/>Vue 3"]
A2["Workbench<br/>Vue 3"]
A3["Admin<br/>Vue 3"]
A4["ChatSvc<br/>Java"]
end
subgraph ORCH["Orchestration Layer 编排层 · FastAPI + asyncio"]
direction LR
B1["Bot Service :8000"]
B2["Assist Service :8001<br/>WebSocket"]
end
subgraph BOT["Bot Service Detail"]
direction LR
B1a["Intent Classifier"]
B1b["Rule Router"]
B1c["RAG Retrieval"]
B1d["LLM Generation"]
B1e["KG + Slot + Memory"]
B1a --> B1b --> B1c --> B1d
B1e -.-> B1d
end
subgraph ASSIST["Assist Service Detail"]
direction LR
B2a["D1 Service Eval"]
B2b["D2 Marketing Eval"]
B2c["D3 Risk Eval"]
B2d["E1 AI Executor"]
B2e["E2 MKT Executor"]
B2f["E3 Risk Executor"]
B2g["Arbitrator<br/>PII + Fusion"]
B2a --> B2d
B2b --> B2e
B2c --> B2f
B2d & B2e & B2f --> B2g
end
subgraph AI["AI Capability · HTTP 直连模型服务"]
direction LR
C1["Ollama :11434<br/>LLM 生成"]
C2["TEI :8080<br/>Embedding/Rerank"]
C3["Higress 网关<br/>治理"]
end
subgraph DATA["Data Layer 数据层"]
direction LR
D1[("PostgreSQL 16<br/>Dialogue·KB·Audit")]
D2[("Redis 7.2<br/>Session·Cache")]
D3[("Elasticsearch<br/>8.19+IK")]
D4[("Milvus 2.4<br/>Vector")]
D5[("MinIO<br/>Storage")]
D6[("Kafka 3.7<br/>Event Bus")]
end
subgraph CROSS["Cross-cutting 横切关注点"]
direction LR
X1["Prometheus<br/>+ Grafana"]
X2["CircuitBreaker<br/>4-Level Degradation"]
X3["PII Masking<br/>+ Compliance"]
X4["Audit Middleware<br/>Rate Limiting"]
end
ACCESS --> ORCH
ORCH --> AI
AI --> DATA
B1 -.-> BOT
B2 -.-> ASSIST
CROSS -.-> ORCH
CROSS -.-> AI
style ACCESS fill:#0ea5e920,stroke:#0ea5e9,color:#7dd3fc
style ORCH fill:#f59e0b20,stroke:#f59e0b,color:#fcd34d
style AI fill:#10b98120,stroke:#10b981,color:#6ee7b7
style DATA fill:#ec489920,stroke:#ec4899,color:#f9a8d4
style CROSS fill:#8b5cf620,stroke:#8b5cf6,color:#c4b5fd
style BOT fill:#f59e0b15,stroke:#f59e0b55,color:#e2e8f0
style ASSIST fill:#f59e0b15,stroke:#f59e0b55,color:#e2e8f0
| 分类 | 技术 | 版本 |
|---|---|---|
| Web 框架 | FastAPI | 0.115+ |
| Agent 编排 | asyncio + 规则路由 | — |
| 大模型 | Qwen2.5-7B (Ollama) | — |
| Embedding | bge-large-zh-v1.5 | — |
| 数据库 | PostgreSQL | 16 |
| 缓存 | Redis | 7.2 |
| 全文检索 | Elasticsearch + IK | 8.19 |
| 向量数据库 | Milvus | 2.4 |
| 对象存储 | MinIO | 2024+ |
| 消息队列 | Kafka (KRaft) | 3.7 |
| 监控 | Prometheus + Grafana | — |
| 代码质量 | Ruff + mypy + pre-commit | — |
| 数据库迁移 | Alembic | — |
只需 Docker，一条命令拉起完整系统（中间件 + 数据库迁移 + 预置知识库 + Bot/Assist 服务）：
git clone https://github.com/slowleelab/lumio.git && cd lumio
make demo启动后即可体验：
# 发送一条客户咨询
curl -X POST http://localhost:8000/api/chat/send \
-H 'Content-Type: application/json' \
-d '{"message":"信用卡年费怎么减免"}'| 入口 | 地址 |
|---|---|
| Bot 对话服务 | http://localhost:8000（Swagger: /docs） |
| Assist 坐席辅助 | http://localhost:8001（Swagger: /docs） |
| Grafana 监控 | http://localhost:3001 |
💡 无本地大模型也能跑：LLM 不可达时系统自动降级（检索摘要 → 模板回复）。有 Ollama 时回答质量更高。 停止：
make demo-down｜ 日志：make demo-logs或者直接拉取预构建镜像（免编译）：
docker run --name lumio-demo -d slowleelab/lumio:demo
# 克隆项目
git clone <repo-url> && cd agent_project
# 复制环境变量配置
cp .env.example .env
# 根据实际环境修改 .env
# 安装 Poetry（如未安装）
curl -sSL https://install.python-poetry.org | python3 -
# 安装项目依赖
poetry install
# 安装 pre-commit hooks
make pre-commit# 使用 Makefile（推荐）
make build # 构建 ES+IK 自定义镜像
make up # 启动全部中间件
make ps # 查看服务状态
# 或手动操作
cd deploy
docker compose build elasticsearch
docker compose up -d
docker compose psmake init # 一键初始化 Milvus + ES + Kafka
# 或手动逐个初始化
poetry run python scripts/init_milvus.py
poetry run python scripts/init_elasticsearch.py
poetry run python scripts/init_kafka.pymake migrate # 运行迁移
make migrate-create msg="描述" # 创建新迁移make verify # 验证所有中间件连通性
make verify-ollama # 验证 Ollama + Qwen2.5-7Bmake dev # 启动 bot(:8000) + assist(:8001)
# 或手动启动
poetry run uvicorn lumio.main:bot_app --reload --port 8000
poetry run uvicorn lumio.main:assist_app --reload --port 8001make test # 运行测试
make test-cov # 运行测试并生成覆盖率报告lumio/
├── src/
│ └── lumio/ # Python 包
│ ├── __init__.py # 包初始化，定义 __version__
│ ├── py.typed # PEP 561 类型标记
│ ├── main.py # FastAPI 应用入口
│ ├── shared/ # 共享模块
│ │ ├── config.py # pydantic-settings 配置管理
│ │ ├── models.py # Pydantic 数据模型
│ │ ├── logger.py # 日志配置（支持 JSON 结构化）
│ │ ├── exceptions.py # 异常定义
│ │ └── middleware.py # 全局异常处理中间件
│ └── services/ # 编排服务
│ ├── bot/ # 机器人服务
│ ├── assist/ # 坐席辅助服务
│ └── common/ # 服务共享（DB/Redis/模型客户端/DI）
├── tests/ # 测试
├── alembic/ # 数据库迁移
├── scripts/ # 辅助脚本
├── config/ # 配置文件（非 Python 包）
├── deploy/ # 部署配置
│ ├── Dockerfile # 应用多阶段构建
│ ├── .dockerignore
│ └── docker-compose.yml
├── .github/workflows/ # CI/CD
├── pyproject.toml # 项目配置（Poetry + Ruff + mypy + coverage）
├── Makefile # 标准化开发命令
└── .pre-commit-config.yaml # pre-commit 钩子
注：主包路径为
agent/lumio/，详见 CHANGELOG.md 与 docs/architecture.md。
make help # 查看所有可用命令
make install # 安装依赖
make dev # 启动开发服务
make test # 运行测试
make test-cov # 运行测试 + 覆盖率
make lint # 代码检查
make format # 代码格式化
make type-check # 类型检查
make pre-commit # 安装并运行 pre-commit
make migrate # 运行数据库迁移
make up # 启动中间件
make down # 停止中间件
make init # 初始化中间件
make verify # 验证环境
make clean # 清理缓存| 服务 | 端口 | 说明 |
|---|---|---|
| Bot API | 8000 | 机器人服务 |
| Assist API | 8001 | 坐席辅助服务 |
| Nginx Gateway | 80 | 开发网关 |
| MCP Server (Java) | 8090 | 信用卡工具 MCP 服务（SSE，mock 数据） |
| Higress MCP 入口 | 10000 | AI 网关统一 MCP 数据面（streamable-http，opt-in） |
| Higress 控制台 | 18080 | AI 网关控制台（opt-in） |
| Nacos | 8848 | 服务发现 + MCP Registry（opt-in） |
| Grafana | 3000 | 监控面板 |
| Prometheus | 9090 | 指标采集 |
| PostgreSQL | 5432 | 数据库 |
| Redis | 6379 | 缓存 |
| Elasticsearch | 9200 | 全文检索 |
| Milvus | 19530 | 向量数据库 |
| MinIO API | 9000 | 对象存储 |
| MinIO Console | 9001 | 对象存储控制台 |
| Kafka | 9092 | 消息队列 |
| MCP Server (Java) | 8090 | 信用卡工具服务（Spring AI MCP，SSE，mock 数据） |
- 文档中心 — 全部文档索引
- 系统架构 — 三层设计、数据流、设计决策
- API 参考 — REST / WebSocket 接口
- 部署指南 — Docker Compose、初始化、监控
- 配置参考 — 环境变量全览
- 开发指南 — 本地开发、代码规范、测试
- 性能基准 — 微基准数据、压测方法、优化方向
| 目录 | 说明 | 文档 |
|---|---|---|
agent/ |
灵智（Lumio）核心（Bot + Assist 编排服务） | 见上方文档 |
mcp-server/ |
信用卡工具服务（Java / Spring AI MCP Server，22 个工具，mock 数据） | README |
kb-service/ |
知识数据微服务（ES 原生 RRF） | README |
chat-svc/ |
在线客服接入系统（Java） | README · DESIGN |
web/ |
坐席工作台 / 客户对话前端（Vue 3） | README |
欢迎贡献！请先阅读：
本项目基于 Apache License 2.0 开源。