fix: 去重合并多来源后同步到 events/Qdrant/MySQL,新增 sync-sources 回填命令

- dedup/pipeline: 合并 source_ids 后自动同步已生成的 events JSON 和 Qdrant payload
- 新增 sync_sources_from_deduped / uv run en-news sync-sources,用于历史数据回填
- sync-sources 会扫描 deduped 多来源唯一篇,更新 events、Qdrant、MySQL news_event.sources
- docs: 补充 sync-sources 使用说明
This commit is contained in:
2026-08-23 10:55:23 +08:00
parent cf74e5e7f5
commit 9e4f5b4c75
4 changed files with 178 additions and 0 deletions
+4
View File
@@ -45,6 +45,10 @@ uv run en-news extract --source cnbc
2. 正文 hash 一致 → 重复
3. SimHash 汉明距离 ≤ 阈值 → 模糊重复
- 跨源合并:重复篇的来源 ID 会追加到保留唯一篇的 `source_ids`,日报可展示多来源。
- 合并后会同步更新已生成的 `events` 与 Qdrant payload;历史数据可执行:
```bash
uv run en-news sync-sources
```
```bash
uv run en-news dedup