数据源接入向导

把一个数据源变成"Agent 能按次付费买走"的工具,本质上就四件事:接进来、定时抓、切成可计价单元、定价格。 这个向导带你走完四步,直接产出一份 manifest.json(可提交给我们上架)和一份接入检查清单——清单里的每一条都是我们线上跑崩过之后补上的。

免费 · 无需登录 本地生成 · 内容不上传 产出 · manifest.json + 检查清单

1数据源是什么

先说清楚数据从哪来。

凭据只写在你自己的配置里。我们采集时会用 Accept-Encoding: identity 直连,避免 gzip 解不开。

2采样与更新

决定多久抓一次、一次抓多少。

字段不稳定就要靠内容 hash判断是否真的变了,否则每次都当新数据存,快照库会爆。

3切成可计价的工具

一个数据源通常能切出 3–5 个工具:便宜的做引流,贵的做深查。

4定价与提交

免费额度怎么定才不亏,用 免费额度配置器 算一遍。

结果这份数据源能变成什么

输出 1manifest.json(可提交上架)

0 行
—

输出 2接入检查清单

0 行
—
这个坑我们踩过

1 · gzip 让采集器拿到一堆乱码。我们自己的抓取库显式发 Accept-Encoding: identity,并要求超时、跟随 3xx,否则对方一开压缩,解析直接炸。

2 · 从 0 扫链上日志会失败。公共节点查 archive 状态要 token,正确做法是从链头回退 2000 块开始扫,400 块一段、段间 250ms 防限流,多节点失效转移。

3 · 断言字段名写错,整片判成"波动"。我们探活时把 p.ok 写成实际字段 p.lastOk,结果所有条目恒为异常。字段名一定对着写库代码核。

4 · 采集任务失败是静默的。rentgpu 的数据接口里就有 platforms_not_adapted: ["gpushare"] 这种"适配器失效但没人知道"的情况。必须留覆盖率指标并定期看。

5 · 快照别无限存。每个任务只留最近 30 条快照,用内容 hash 判断"到底变没变",否则存储成本比收入涨得快。