在写完爬取某网站的代码后,发现没有什么错误但依然无法抓取到网站内容。于是用postman试一试是否可抓取到,它只需要一个链接和一些参数。使用postman后可以获取网站内容。后来发现这是有问题的,我所请求的网页是其他网页302跳转过来的,带了cookie,所以使用postman不应该获取到所需内容。而它能够获取到内容是因为我手动通过浏览器打开网站时浏览器中有了cookie。后来我在google商城里找到了ARC插件就没有带cookie。
总结:
1.使用发送请求插件时注意是否存在cookie。
2.用浏览器查看时也应清除缓存(比如:按F12打开调试模式,然后鼠标右键点刷新按钮 选择清空缓存并硬性重新加载。用ctrl+shift+delete清楚cookie更好)
2017.7.6
修改服务器上的代码后,在浏览器中运行发现竟然没有变化,直接返回200(from memory cache),这时用右键刷新按钮清空缓存并硬性重新加载后就好了。