昨天帮朋友做一个竞品分析项目,需要从X、YouTube、Reddit等多个平台采集数据。以前这种活得手动一个个网站去爬,现在有了这三个开源工具,直接让AI Agent自己搞定。
第一个是Agent-Reach,把X、YouTube、Reddit、GitHub等多个平台的采集工具打包在一起。以前要分别调用不同API,现在一个工具全搞定。我昨天用它采集了100个X账号的最近一个月帖子,分析哪些话题最火,整个过程不到10分钟。
第二个是Patchright Enhanced,基于Playwright的浏览器自动化工具。有些网站没有API,或者API限制很严,这个工具能监听网站请求,通过脚本直接抓取数据。有个做电商的朋友用这个抓竞品价格,比手动快了几十倍。
第三个是Scrapling,通用网页数据采集工具。不管什么网站,都能把数据抓下来。关键是这三个工具都能直接给AI Agent用,你告诉Agent需要什么数据,它自己写代码、采集数据、给你结果。
项目地址:
github.com/Panniantong/Ag…
github.com/whaleyxbt/patc…
github.com/d4vinci/Scrapl…
需要做数据采集的,可以直接收藏这个。
话题来源 @TeddyinMedia
❤️1710 x.com/…↗ 已改写,非原文转载
27 浏览 0 评论
0 反应













