PYTHON爬虫神站——curl.trillworks 爬取数据只需两步!

前不久作者因为需要爬取一些建筑类数据 于是又又又准备苦哈哈的打开百度搜索“如何爬取XX”,然后看html,找到关键点再挨个循环访问.....以下省略。

但这次 这款朋友推荐网站拯救了我 他就是 https://curl.trillworks.com/ 为此特地开个文章纪念一下爽快的爬虫时刻。

这朴素的界面 正好象征着其大道至简的核心。

https://hangqing.gldjc.com/flooring/trend_chart/concrete ,首先我们先进入网站 我们准备爬取广材网的一些交易数据。

虽然这个界面由于要收费的原因给封了,但是并不影响我们进行测试。(你只需要从淘宝购买个一天账号,然后登陆广材网保存它的cookie 那以后就可以一直爬虫访问了!)

按照惯例我们打开F12  刷新一下 

然后在 network 寻找到你需要的get请求的声明(在右边的preview看一看)   点击右键复制其 cURL

然后 把CURL复制进入上面的那个网站 然后 然后 然后就完了!!!

最后把上述代码复制到Py 再

print(response.json()) 
#print出来就结束了!

由于是json格式 在批量处理前 需要根据情况转个格式...

爬虫正式被简化成了两步 

1.打开F12

2.CV大法

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值