Python爬虫传送post请求要携带哪些参数?

作者:知乎用户
链接:https://www.zhihu.com/question/60256922/answer/174211193
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

本来只是看题主也努力研究了,才写的小攻略。意外的受欢迎赞还不少呢,有兴趣的童鞋移步文末,更多精彩。

你这也花了不少心思,我提供一个小攻略吧,,写此类post请求的时候,不要自己去构造,搜一下postman,,你会发现这是多么轻松。。尤其是爬虫写多了以后就必须得会偷懒。。


03140850_U3SS.png

比如带post参数的进行豆瓣电影搜索,只带一个参数。当然可以直接从url构造

搜索: 电影 例如:search?q=电影

用postman的话,

输入url,先构建你的headers,点击build edit会变成如下的key value edit

03140850_t4ef.png

将你浏览器开发者模式下,的请求头复制出来。我模糊cookie只是出于安全考虑。

03140850_t4XW.png

然后再点击:key value edit 你请求头的部分都会

03140850_dg2l.png

咱们看看程序效果,你点击下面位置的code,他就会让你选择语言,并且自动生成标准的构造方式。


03140850_4Ixy.png

如下图:

03140850_5U3p.png

是不是很快速,,而且很标准?。

那么header旁边还有一个body。。这里是构建你post请求的参数的地方。

先改成post的请求方式然后点击body。


03140850_YK2r.png

复制你浏览器开发者工具中的

03140850_uLZc.png

贴到body然后key-value一下,在点击code就会自动生成post请求代码。非常标准的基础代码。

03140850_YIvx.png

别光感谢,不点赞啊。。

好像挺受到欢迎的,我写到专栏里:

60秒GET小技能-爬虫快速构建post参数法 - 知乎专栏

更多干货请参看:个人信息中的博客/专栏/github

欢迎来踩踩。

一些值得看的相关回答:

  1. 想知道大家都用python写过哪些有趣的脚本? - 知乎。 #
  2. 你写过的自己觉着最牛X的黑程序? - 知乎。 #
  3. 学习Python很吃力,我是不是可以放弃编程了? - 知乎 #
  4. Python爬虫传送post请求要携带哪些参数? - 知乎。 #
  5. 不想拿学位证的计算机在校生? - 知乎。#
  6. 你在实验室经历过最危险的事情是什么? - 知乎。 #
  7. 如果你能预知未来,你会不会更加努力? - 知乎。 #

编辑于 2017-06-21

118

13 条评论

分享

收藏

感谢

收起

知乎用户

知乎用户

6 人赞同了该回答

爬虫选手推荐在电脑上安装一款抓包工具,比如fiddler2,比如charles.

有什么用:

1.分析网络请求,浏览器自带的调试工具与抓包工具各有优势。抓包工具的优势更专业,工具更多。同时有一些浏览器工具做不到的功能,比如可以查看python的网络请求,编码工具。用这个调试POST的参数非常方便,修改之后点击执行就可以看到返回结果,比浏览器更人性化。

2.抓手机APP的数据包,这个就不是无往不利了,但是很多时候的确可行。APP很多内容也是通过HTTP协议传输的,这部分内容也可以通过抓包工具得到网址,如果没有加密,通过工具也是可以模拟的。不过这个因为是客户端-服务器的形式,加密手段很多,所以有安全意识的APP很难实现解密。

 

既然抓包是爬虫必须的技能,掌握一些工具也就是应该的了,总用浏览器的开发者模式,有点用记事本写代码的感觉,不能说不对,但总归不是最好的解决方案。具体工具的用法就交给度娘吧。

编辑于 2017-05-26

6

添加评论

分享

收藏

感谢

Tom朱

Tom朱

又一只码农

3 人赞同了该回答

借着十四君的话,只要两步就可以把任何请求导入Postman。

1. 在Chrome 审查元素界面的network下,右键请求 -> 复制为cURL

2. Postman点击Import,选择Paste Raw Text,粘贴

Done! 愉快地调参吧!

编辑于 2017-05-26

转载于:https://my.oschina.net/airship/blog/1501334

  • 0
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值