simon/qlib
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
72 Commits 1 Branch 0 Tags
d1287799f75f795d9ac03dd0a9b34d9a7dcb3c1f
Commit Graph
22 Commits
Author SHA1 Message Date
Simon 23972e7063 feat: 股息率案例口径 + 策略库与图表统一 + 回测存档完整化 
汇总三轮未提交的开发（每轮均在本机 MariaDB + 真实浏览器上验证）：

1) 股息率案例（全市场股息率最高 n 只，默认 20，每 m 月择股）
   - 新增日频估值表 daily_basic + 迁移；股息率因子（dv_ratio / dividend_yield / TTM）
   - 名称历史表 stock_name_history：剔除 ST 按**择股日当时名称**判定，消除
     「曾高股息后 ST」的股息陷阱（实测 3.70pp 偏差）
   - 区间择股/调仓双周期（m 择股 / y 调仓）、指数成分与白名单、停牌近似剔除
   - 复权因子口径核对（4,164,742 行、缺失 0.0%）、收盘价成交与涨跌停拦单
   - 案例实测：2020-01-01~2026-09-04 总收益 +24.86%（年化 3.52%、回撤 -28.58%）

2) 策略库与前端统一
   - strategy 表 + CRUD/PUT 原地更新 + `describe_strategy` 按 spec 真实推导
     「一句话说明 + 计算公式 + 执行步骤 + 注意事项」（与引擎实执行规则同源）
   - 任何出现股票代码处都成对显示名称且可点击进个股页
   - 全站图表基座统一 TradingView Lightweight Charts（ECharts 依赖、
     锁文件、组件与文档标注一并清除），买卖点标记只落在真实交易日上

3) 回测存档完整化（可往复查看）
   - 同步端点（POST /api/backtests、/api/factor-tests）此前完全不落库 → 现在同样归档，
     归档 id 经响应头 X-Experiment-Id 返回（不破坏 response_model）
   - data_version 首次真实写入（数据快照指纹：最新交易日 + 各表规模）
   - 个股收益曲线默认**全量保存**（此前硬截断 60 只）；超出体积预算才裁剪，
     并写 archive_meta（机器可读）+ unimplemented（人可读）如实标注
   - 列表 kind/q 过滤 + X-Total-Count（此前 limit=50 静默截断）、DELETE 归档
   - 只读归档页 /experiments/{id}（Server Component，SSR 直出**选股条件**与
     **交易执行依据**）；结果视图按 kind 分发（backtest/factor_test/selection），
     非回测归档不套用回测口径
   - 新增 CLI：prune_experiments（保留策略，默认 dry-run）、
     restore_experiment_from_job（从 Job 副本按原 id 重建被删的历史归档，默认 dry-run）

门禁：pytest 388 passed、ruff All checks passed、tsc 0 错误、图表单测 7 passed、
next build 成功、契约脚本 verify_strategy_workspace 59/59（含按 kind 逐类验证归档页）。
 2026-09-20 07:31:04 +08:00
Simon 0d05bfd187 feat(factor): C1 因子相关性分析（横截面 Spearman 矩阵 + API） 
- evaluation.factor_correlation_report：多因子共同日期 ∩ 后逐日横截面 Spearman 相关
  取均值 → FactorCorrelationReport（冗余剔除前置，v3 §12 Correlation→Redundancy）
- ResearchService.run_factor_correlation + POST /api/factor-correlations
  （universe/factors/period；与其它研究同装配口径）
- tests/test_factor_correlation.py：矩阵对角=1/近线性±相关符号/对称/无共同日期补零、
  API 冒烟；全量 pytest 通过
 2026-09-09 07:31:49 +08:00
Simon 9cc4bfccac feat(universe): B1-1 指数历史成分（index_weight）+ Universe 按 as_of 成分过滤 
- index_weight 表（migration f5e0d1c2b3a4，MySQL 已应用；index_code+date+symbol 唯一）
  + IndexWeight 实体 + IndexConstituentRepository（members_at：取 <=as_of 最近一期快照，
  Survivorship-free / 无未来成分；latest_date）
- UniverseSpec.index_code + universe.filter_stocks members 交集 + resolve_members；
  Research/Selection/Signal/Replay 服务注入 index repo（历史成分过滤，选股/回测共用）
- tests/test_index_universe.py：快照历史成分（成分变更不入早期结果）、幂等、
  空快照期空集、index_code 过滤下 as_of 一致性；全量 pytest 通过
 2026-09-09 07:27:13 +08:00
Simon 37510c1b89 feat(replay): M9-6 Bar Replay 线性重放（as_of 逐日仅用当时数据） 
- domain/entities/replay.py：ReplayDay{top/events/counts}/ReplayResult 时间线
- ReplayService：universe.symbols 白名单必填（≤40）且重放交易日 ≤90（防全市场长任务）；
  每个交易日以 <=as_of 数据经同一 signal/score 引擎生成帧
- POST /api/replays（边界校验）→ 时间线；供前端 Bar Replay 控件（v3 §20.6 阶段二）
- tests/test_replays.py：重放帧 == 回测 selection_history 逐调仓日一致；范围约束；
  后段暴涨股不泄漏进早段帧（未来函数）；API 400/200；全量 pytest 通过
 2026-09-09 07:18:36 +08:00
Simon bfeac7aa4c feat(backtest): M9-2 回测补 selection_history/signal_history/fills（Signal↔Fill 区分） 
- BacktestResult 新增：RankedPick（调仓意图，与 select(as_of) 同源排序）、
  ActionRecord（BUY/SELL 意图 + filled + reject_reason/price）字段 selection_history /
  signal_history / fills（fills=signal_history 中 filled 子集）（v3 §20.3/§22.3）
- TopKBacktestRunner：调仓记录卖出/买入逐动作与是否成交；涨停/停牌导致的
  「BUY 信号未成交」保留原因；意图 picks 与执行 targets 分离（不因涨停悄悄改选股视图）
- ChartService.backtest_stock_chart 改用 history 生成三类标记（selection/signal/fill），
  未成交意图在图上可见（v3 §20.4）
- tests/test_backtest_history.py：意图=select 一致、fills 推导、涨停拒绝可见（构造 +10%
  涨停日）、序列化 roundtrip；相关回归（quant/consistency/charts）全过；全量 pytest 通过
 2026-09-09 07:12:36 +08:00
Simon 995ed08548 feat(chart): M9-1 Chart DTO + Chart Service + Chart API（v3 §20） 
- domain/entities/chart.py：ChartResult/OHLC/Volume/Series/EventMarker/ChartMetadata
  （adjust_mode + execution_price_basis 口径元数据）+ SelectionHit
- application/services/chart_service.py：个股 K线/量/MA 指标；显示层 qfq/hfq 折算
  （基于主口径 none 行情 × adjust_factor，绝回写研究数据）；回测个股视图把实际成交
  转 fills 标记并在显示口径不同时做坐标换算（v3 §20.3/§20.5）
- by-symbol 历史查询：SignalRepository/SelectionRepository.list_by_symbol（含溯源 id）
- api/charts.py：/stocks/{symbol}/chart|signals|selections、/backtests/{id}/stocks/{symbol}/chart
  |trades|positions
- tests/test_charts.py（指标/qfq-hfq 折算断言/回测 fills/API 集成+404）；全量 pytest 通过
 2026-09-09 07:09:52 +08:00
Simon 9d25d466e5 feat(strategy): M8.3 策略模型 + /api/strategies（命名配置资产，可展开为 ResearchSpec） 
- StrategyDefinition：universe/factors/selection/rebalance/costs/portfolio +
  price_adjustment（除 period 外完整策略定义）；to_research_spec(period) 展开为标准 Spec
- strategy 表（migration e1f2a3b4c5d6，MySQL 已应用；name 唯一）+ StrategyRepository
- /api/strategies：POST/GET/DELETE + POST /{id}/expand（period+initial_capital → ResearchSpec）
- tests/test_strategies.py（repo CRUD/同名/expand、API CRUD/400/404）；全量 pytest 通过
 2026-09-09 00:38:09 +08:00
Simon 692bdb3be5 feat(portfolio): M8.2 Portfolio Engine 模块化（等权收敛 + 约束显式标注） 
- research.PortfolioSpec（weighting=equal；max_position_pct/max_industry_weight_pct 预留）
  + ResearchSpec.portfolio；config_snapshot 自动记录组合配置
- quant/portfolio.py：equal_weight_budget（与既有等权回测语义一致，行为收敛到本模块）+
  unimplemented_notes（设置约束即在结果中显式标注未建模，禁止假装支持）
- TopKBacktestRunner 预算与 unimplemented 改用 portfolio 模块；默认配置数值不变
  （一致性/quant 引擎回归通过）；tests 补约束标注与 config_snapshot；全量 pytest 通过
 2026-09-09 00:36:38 +08:00
Simon ba52edc2d6 feat(signal): M8.1 交易信号引擎（规则 + signal_event 落库 + /api/signals） 
- SignalRules（买入 rank 阈值/趋势 MA/动量 + 卖出区间/破位警示）+ SignalEvent
  （BUY/WATCH/SELL，score/price/trigger_reason 可解释）+ SignalResult/Meta
- quant/signal.generate_signals：与选股同一评分引擎取全市场 rank，按规则分类输出
- signal_snapshot/signal_event 表（migration d8e0b2f3c4d5，MySQL 已应用）+ Repo
- SignalService + POST /api/signals（同步+落库）、GET 详情/列表
- tests/test_signals.py（引擎分类/排序/破位不 BUY、service、API 提交读回）；全量 pytest 通过
 2026-09-09 00:35:37 +08:00
Simon ef09d5b419 feat(quant): M7.3 研究行情口径显式化（默认不复权 none，可切 qfq） 
- DailyBarRepository.get_range_many / stream_range_many_columns 增加 adjust 参数
  （默认 'none'）→ SQL 层过滤口径，消除 stock_daily 混 source/adjust 污染因子的风险
- ResearchSpec / SelectionQuery 增加 price_adjustment（none|qfq），随 config_snapshot
  落库可溯源；ResearchService._load_daily 与 SelectionService 装配按口径取数
- tests/test_price_adjustment.py：repo 读取按 adjust 过滤（none/qfq 各自命中）、
  spec 默认与字段记录；全量 pytest 通过
 2026-09-09 00:32:55 +08:00
Simon 4fa2bb748e feat(composite): M7.2b 因子组合落库 + /api/composites CRUD 
- factor_composite 表（migration c3e9a0d1f4b5，MySQL 已应用；name 唯一）
- CompositeDefinition/Component 实体 + CompositeRepository Protocol + SQLAlchemy 实现
- /api/composites：POST（注册表自动填充组件 direction；未注册因子 400）、GET 列表/详情、DELETE
- tests/test_composites_api.py（repo CRUD/同名拒绝/删除、API 方向填充/404/400）；全量 pytest 通过
 2026-09-09 00:30:37 +08:00
Simon 8f47b5b603 feat(factor): M7.1 因子定义入库 + /api/factors 读库（目录契约源） 
- factor_definition 表（migration b7f2a5e81c33，MySQL 已应用）：name 主键 + 元数据
  （formula/brief/frequency/lookback/direction/requires JSON/version）+ FactorDefinition
  entity（from_registry_def 由代码注册表构造）
- FactorRepository Protocol + SQLAlchemy 实现（幂等 upsert/list/get）
- /api/factors 改读 DB；目录为空自动 seed 注册表（幂等）—— 保留自定义因子登记能力
  （计算仍须代码注册，引用未注册因子照常 FactorError，防伪因子）
- tests/test_factor_catalog.py（repo 幂等/roundtrip/registry seed、API seed+字段齐全）；
  test_api 的 client fixture 补 tmp sqlite session（factors 读库）；全量 pytest 通过
 2026-09-09 00:28:16 +08:00
Simon c60dc78c88 feat(selection): M6.3 选股结果落库 + /api/selections（快照 + 逐候选行） 
- domain/repositories/selection.py + SelectionMeta：选股 Repository Protocol
- models/selection.py + migration a6c91d4e7f20：selection_snapshot（查询/统计快照）+
  selection_result（逐候选：rank/score/factor_values/filter_status/reason JSON）
- repositories/selection_impl.py：save/get/list_recent（读回重建 SelectionResult）
- api/selections.py：POST /api/selections（同步执行+落库，返回 selection_id+result）、
  GET /{id}、GET 列表（as_of/method 过滤）；deps 装配 SelectionService/Repo
- config._build_mysql_url：仅编码破坏 URL 结构的字符（修 Alembic configparser 遇 %21 崩）
- 迁移已在 MySQL 应用（alembic head a6c91d4e7f20）；tests/test_selections_api.py 4 例
  提交→读回一致/404/列表过滤/condition；全量 pytest 通过
 2026-09-09 00:20:42 +08:00
Simon 75c5472c31 feat(selection): M6.2 条件选股（method=condition + 财务可见性防护） 
- quant/selection.run_condition_selection：结构化条件 AND 求值 —— 字段域
  static.*（行业/市场…）、技术列与派生量（close/volume/ma20/ma60）、已注册因子
  （momentum_60 等）、fundamental.*（announce_date<=as_of 的最新已公告财务值）；
  条件支持 value 字面量与 ref 字段比较（如 close > ma60）；结果带 filter_status/reason
- SelectionQuery 校验调整：condition 模式为纯过滤（不再强制 top_n/top_pct）
- FinancialRepository 新增 list_announced_many（批量防未来函数读取）+ SQLAlchemy 实现；
  SelectionService 注入 financial_repo 并按 announce_date 取每股最新一版
- tests/test_selection_condition.py：8 例（行业 in/ne、动量>0、close>ma60 ref、阈值、
  ROE 过滤且未来公告不可见、缺财务 repo 报错、更早 as_of 排除）；全量 pytest 通过
 2026-09-09 00:16:45 +08:00
Simon 25a1d9531a feat(selection): M6.1 Universe 选股范围执行器（规则化 + symbols 白名单 + 历史日语义） 
- quant/universe.py：filter_stocks 从 quant/service 迁出并集中（ST/上市天数/退市过滤），
  as_of 当前/历史日语义由 delist/list_date 保证；exclude_suspended 依赖停牌表未建模，
  由上层显式标注（选股结果 unimplemented）
- research.UniverseSpec 增加 symbols 白名单（非空时仅白名单内参与，再叠加其余过滤）
- quant/service re-export filter_stocks（外部引用不变）；SelectionService 已共用
- tests/test_universe.py：6 例覆盖当前/历史日、ST、上市天数、退市、白名单；全量 pytest 通过
 2026-09-09 00:13:28 +08:00
Simon f3586adb25 feat(selection): M6.0 选股契约与评分引擎（SelectionQuery/Result + select(as_of)） 
- domain/entities/selection.py：SelectionQuery（universe+method+factors+top_n/top_pct/
  min_score+as_of+预热）与 SelectionResult/Candidate/Statistics（v2 §14.2/§21.1 DTO）；
  ConditionSpec 字段就位供 M6.2 条件选股
- quant/selection.py：Selection Engine method=score —— 复合分（zscore×权重×方向）
  → TopN/Top% 截断；observation_date=<=as_of 最近交易日（防未来函数，v2 §9）；
  候选带 factor_values 与 selection_reason（可解释）
- application/services/selection_service.py：选股用例（universe 过滤 → 装配 → 引擎）
- quant/service.py：抽取公共 load_daily_df 供研究/选股共用（行为不变）
- tests/test_selection.py：11 例 —— TopN/排序/理由、as_of 防未来函数、ST/上市天数/
  退市过滤、top_pct/min_score、空数据与查询校验；全量 pytest 通过
 2026-09-09 00:12:28 +08:00
Simon 442999f701 feat(data): 财务/日线同步增量 + 新浪「两边一致」校验兜底 + 逐只进度 
- financial 默认增量：按 A 股披露节奏判断已最新并跳过；--full 强制全量重拉
- Tushare fina_indicator 增加报告期窗口与 100 条/请求自动分页（修复老报告期静默截断）
- 新浪兜底收紧为校验兜底：两源重叠历史一致才导入缺失键，行标记 source=sina；
  财务可比字段取 eps/销售毛利率（ROE 两端口径不同不作依据），日线只比较最近重叠交易日
- CLI 输出逐只进度与导入内容描述（来源/行数/报告期与公告区间），失败股票留待重跑
- financial_indicator 增 source 列（迁移 d3f6c9a21b04）；新增一致性/分页/服务测试
 2026-09-08 21:48:09 +08:00
Simon 56254172b3 feat(data): Tushare 限速退避 + 新浪兜底（财务 getFinanceReport2022 / 日K 前复权），source+adjust 口径标记 
- TushareProvider：频率超限按指数退避重试（不再一次 200/min 即中断），最长等待 30s
- SinaProvider 重构（参考 cc-cursor 公开接口实现）：
  · 新增财务通道 CompanyFinanceService.getFinanceReport2022(source=gjzb) → FinancialIndicator
    （report_date / announce_date=publish_date），与 Tushare fina_indicator schema 一致
  · 日 K 保留 jsonp（前复权），统一 UA + 重试
  · 不支持方法仍抛 DataSourceNotSupported（复权因子/交易日历/基础信息）
- FailoverProvider 现在可对 daily 与 financial 兜底（CLI _failover_provider 接 SinaProvider）
- DailyBar + stock_daily 表新增 source/adjust 列：新浪兜底行标记 sina/qfq，
  Tushare 恢复后 --resume 按同键覆盖回不复权 → 两源格式一致且可追溯
- 迁移 91c4e27a03fb 已生成；执行需在全市场同步结束后：uv run alembic upgrade head
- 测试 34+ 项（新浪财务解析/格式一致/限速退避等）通过
 2026-09-06 20:52:13 +08:00
Simon 0ea229d766 feat: Phase 4 — Experiment 自动归档 + 异步 Job（状态机 / SSE / 一键复跑） 
- 数据表：job / experiment（spec/result JSON 存档、code_version），Alembic 迁移 53113c80257f
- Job：queued→running→(success|failed) 状态机，BackgroundTasks 本地执行 + 失败兜底标记；结果与 Experiment 关联
- Experiment：每次研究成功自动归档（含 git commit 与收益摘要），支持一键复跑（同 spec 重建 Job）
- API：POST /api/jobs、GET /api/jobs/{id}（内嵌结果）、SSE /api/jobs/{id}/events、/api/experiments 列表/详情/rerun
- 前端：新增「实验」页（列表 / 详情 / 复跑 + Job 轮询）；导航更新
- 端到端验证：真实 20 股 job 提交→后台执行→success→EXP 归档（-12.41%）；executor 成功/失败路径单测
- 测试 73 passed（新增 5 项 Job/Experiment）/ ruff clean / 前端 tsc + build 通过
 2026-09-06 17:18:46 +08:00
Simon e9f59d3cf8 feat(backend): Phase 2 研究引擎 — ResearchSpec / 因子 / 评估 / 低频回测 / 引擎抽象 
- domain：ResearchSpec（universe/factors/selection/rebalance/costs 校验）+ 标准化 BacktestResult / FactorTestReport
- 因子引擎：注册表 + 元数据，内置 9 个行情因子（momentum/volatility/量比/乖离/反转），支持自定义注册；只用行情字段规避未来函数
- 评估：横截面 IC / RankIC（rank+pearson 免 scipy）/ ICIR / 分层收益
- 回测：TopK 等权低频，无未来函数记账（t 收盘成交、自 t+1 计收益），成本/涨跌停/停牌约束，未建模项显式写入 unimplemented（AGENT §24）
- 引擎抽象 QuantEngine + LocalEngine（pandas 默认实现）；qlib_adapter 桥接占位 —— pyqlib 无 aarch64+cp312 wheel（ROADMAP 已备注）
- 真实链路冒烟：600519 2024 月度动量回测闭环产出标准结果
- 测试 60 passed / ruff clean
 2026-09-06 17:08:00 +08:00
Simon 2da234220a feat(backend): Phase 1 数据层 — Domain / Provider / Failover 审计 + 持久化 + 同步 CLI 
- domain：市场数据实体（Stock / 交易日历 / 日线 / 复权 / 财务含 announce_date）+ Repository 与 MarketDataProvider Protocol
- 数据源：TushareProvider（归一化、重试、鉴权错误归类）、SinaProvider（备用，明确前复权口径与能力边界）、FailoverProvider + SyncLog 审计（禁止静默切换）
- 持久化：SQLAlchemy 2.x Models + Repository 实现（按业务键幂等 upsert、as_of_date 防未来函数过滤）+ Alembic 迁移
- CLI：uv run python -m app.cli.sync {basic|calendar|daily|financial|verify}，支持 --resume 断点续传
- 真实 Tushare 验证：stock 5556 / 交易日历 366 / daily+factor 242 / 财务 55；sync_log 审计完整
- 测试：38 passed（domain / provider / failover / repository / 未来函数 / 迁移），ruff clean
 2026-09-06 16:59:28 +08:00
Simon 2a52ee5e83 feat(backend): 搭建 FastAPI 分层骨架 — 配置加载 / 健康检查 / SQLAlchemy+Alembic 就位 
- uv 工程（Python 3.12，pyproject + uv.lock，dev: pytest/ruff）
- 分层包结构：api / application / domain / infrastructure / quant(qlib_adapter) / agent / core
- app.core.config：加载根 config.yaml + .env，sqlite 相对路径解析到项目根 data/
- SQLAlchemy Base + Session 工厂（Infrastructure 层，业务走 Repository）
- Alembic 迁移环境就位（env.py 复用应用配置，render_as_batch 兼容 SQLite）
- GET /api/health + pytest 冒烟 6 项通过 / ruff clean / uvicorn 启动验证
 2026-09-06 16:09:10 +08:00