fix: 去重合并多来源后同步到 events/Qdrant/MySQL,新增 sync-sources 回填命令
- dedup/pipeline: 合并 source_ids 后自动同步已生成的 events JSON 和 Qdrant payload - 新增 sync_sources_from_deduped / uv run en-news sync-sources,用于历史数据回填 - sync-sources 会扫描 deduped 多来源唯一篇,更新 events、Qdrant、MySQL news_event.sources - docs: 补充 sync-sources 使用说明
This commit is contained in:
@@ -45,6 +45,10 @@ uv run en-news extract --source cnbc
|
||||
2. 正文 hash 一致 → 重复
|
||||
3. SimHash 汉明距离 ≤ 阈值 → 模糊重复
|
||||
- 跨源合并:重复篇的来源 ID 会追加到保留唯一篇的 `source_ids`,日报可展示多来源。
|
||||
- 合并后会同步更新已生成的 `events` 与 Qdrant payload;历史数据可执行:
|
||||
```bash
|
||||
uv run en-news sync-sources
|
||||
```
|
||||
|
||||
```bash
|
||||
uv run en-news dedup
|
||||
|
||||
Reference in New Issue
Block a user