feat(db): SQLite 全量迁移至 MySQL(config.yaml 配置化 + 迁移脚本 + 一致性校验)

- config.yaml database.mysql:host/port/db/user/charset 明文可提交;密码经 password_env
  引用 .env 的 MYSQL_PASSWORD(AGENT.md §33 密钥不进 git)
- config.py _build_mysql_url:URL 优先级 DATABASE_URL env > database.mysql 段 > sqlite 兜底
- pyproject 引入 pymysql>=1.1
- tests/conftest.py 强制每进程 /tmp SQLite(测试绝不触 MySQL 开发库);test_config 覆盖
  mysql 组装/密码可选/sqlite 兜底分支
- scripts/migrate_sqlite_to_mysql.py:sqlite→mysql 一次性迁移工具(keyset 分页 + chunk
  多值 INSERT + 攒批 commit + 幂等续传 + 低配 MySQL 节流 --throttle-sec + --verify-only
  行数与抽样一致性校验);已用于 data/quant.db 约 1605 万行迁移并经校验一致
This commit is contained in:
Simon
2026-09-08 23:58:48 +08:00
parent a3fabf9ae9
commit 6c2f198261
8 changed files with 409 additions and 20 deletions
+7 -3
View File
@@ -9,12 +9,16 @@
TUSHARE_TOKEN=
# ---- 数据库连接 ----
# 留空时使用默认 SQLite:<项目根>/data/quant.db(相对路径自动解析到项目根)
# 默认库由 config.yaml database.mysql 决定(MySQL 192.168.1.10/qlib)。
# 连接优先级:本文件 DATABASE_URL > config.yaml database.mysql > SQLite 兜底。
DATABASE_URL=
# SQLite 示例(显式指定):
# DATABASE_URL=sqlite:///./data/quant.db
# MySQL 示例(未来切换,仅需改此值,业务代码不变):
# DATABASE_URL=mysql+pymysql://user:password@127.0.0.1:3306/quant
# MySQL 示例(手动覆盖 config.yaml 的 mysql 段时):
# DATABASE_URL=mysql+pymysql://user:password@127.0.0.1:3306/qlib
# MySQL 密码(config.yaml database.mysql.password_env 引用;host/port/db/user 在 config.yaml)
MYSQL_PASSWORD=
# ---- AI Agent / LLM(Phase 5)----
# 只需填写 API Key;URL 与模型名已在 config.yaml 的 agent.llm 中配置