Scrapy
独孤尚良dugushangliang
三尺微命,一介书生。天高地迥,觉宇宙之无穷;兴尽悲来,识盈虚之有数。
展开
-
Python通过xpath解析网页文本报错TypeError: 'str' object is not callable
版权声明:转载请注明作者(独孤尚良dugushangliang)出处:https://blog.csdn.net/dugushangliang/article/details/103710664Chrome浏览器打开某网页后,鼠标右键查看网页源码,把这些给字符串,再用etree解析,从而使用xpath来快速定位所需信息。但我遇到一个问题,如下图所示:TypeError: 'str' ...原创 2019-12-26 10:37:23 · 1830 阅读 · 0 评论 -
Scrapy的shell命令执行后提示ValueError: invalid hostname: 'http
转载请注明作者(独孤尚良dugushangliang)出处:https://blog.csdn.net/dugushangliang/article/details/94585829如图所示,执行scrapy的shell命令:执行结束后的情况为:答案为:所以要这样:还没看明白?在windows系统上,scrapy shell 后的url需要用双引号。...原创 2019-07-03 18:19:31 · 2039 阅读 · 1 评论 -
XPath谓语多条件使用and和or
版权声明:转载请注明作者(独孤尚良dugushangliang)出处:https://blog.csdn.net/dugushangliang/article/details/94642066看教程没看到有说谓语是多条件的,自己测试得到的结果如下:可以多个条件,条件之间使用and或or,也可以带括号使用。对于上图所示,可以使用以下代码获取其中内容:for each in...原创 2019-07-04 18:41:38 · 16185 阅读 · 1 评论 -
Scrapy时报错SyntaxError: unexpected EOF while parsing
版权声明:转载请注明作者(独孤尚良dugushangliang)出处:https://blog.csdn.net/dugushangliang/article/details/94654547其实细心点就知道这是什么原因了,我也是找了好久才发现。本例是发现,settings.py文件中,有括号不闭合导致的解析错误。下图所示,取消了前三行注释,但没有取消末行,所以花括号不...原创 2019-07-04 21:03:51 · 1578 阅读 · 0 评论 -
为anaconda的python安装scrapy
版权声明:转载请注明作者(独孤尚良dugushangliang)出处:https://blog.csdn.net/dugushangliang/article/details/96895170安装scrapy常走的有两条路,其实归根结底是一条路:pip install scrapy。那么又为什么说有两条路呢?因为twisted这个依赖包。首先我们直接pipinstall scr...原创 2019-07-22 20:38:39 · 671 阅读 · 2 评论