simon
2eaea2ee81
fix: cninfo 抓取限制浏览器并发,修复整机冻结 (06:00 任务压穿内存)
根因: _render_page 每次新建完整 headless Chromium(实测 857MB/实例),
crawl_watchlist 对 15 只股票全量并发 → 峰值需求 ≈12.5GB ≫ 7.9GB RAM,
2026-09-06/08/10 三次 06:0x 整机冻结(load 65 → 看门狗复位)。
- crawler/cninfo.py: 新增 MAX_RENDER_CONCURRENCY(默认 2,env 可配)
+ 模块级 _render_sem 信号量,渲染全程持槽;顺带清理 3 个死导入
- tests/test_cninfo.py: 新增 8 个(并发上限/串行/异常释放/env 解析)
- 实测: 峰值 1796MB / 22 进程 / load 2.75 / 耗时 441s(上限 900s)
- 全量 291 passed
2026-09-10 20:54:30 +08:00
..
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-09-10 20:54:30 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-23 05:40:52 +08:00
2026-08-22 17:10:39 +08:00
2026-09-01 17:35:08 +08:00
2026-08-22 22:39:10 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 17:10:39 +08:00
2026-08-22 19:50:14 +08:00
2026-08-22 19:11:32 +08:00
2026-08-22 19:20:21 +08:00
2026-08-22 17:10:39 +08:00