先说清楚数据从哪来。
决定多久抓一次、一次抓多少。
一个数据源通常能切出 3–5 个工具:便宜的做引流,贵的做深查。
—
—
1 · gzip 让采集器拿到一堆乱码。我们自己的抓取库显式发 Accept-Encoding: identity,并要求超时、跟随 3xx,否则对方一开压缩,解析直接炸。
2 · 从 0 扫链上日志会失败。公共节点查 archive 状态要 token,正确做法是从链头回退 2000 块开始扫,400 块一段、段间 250ms 防限流,多节点失效转移。
3 · 断言字段名写错,整片判成"波动"。我们探活时把 p.ok 写成实际字段 p.lastOk,结果所有条目恒为异常。字段名一定对着写库代码核。
4 · 采集任务失败是静默的。rentgpu 的数据接口里就有 platforms_not_adapted: ["gpushare"] 这种"适配器失效但没人知道"的情况。必须留覆盖率指标并定期看。
5 · 快照别无限存。每个任务只留最近 30 条快照,用内容 hash 判断"到底变没变",否则存储成本比收入涨得快。