使用工具:Python2.7 点我下载
scrapy框架
sublime text3
一。搭建python(Windows版本)
1.安装python2.7 ---然后在cmd当中输入python,界面如下则安装成功
2.集成Scrapy框架----输入命令行:pip install Scrapy
安装成功界面如下:
失败的情况很多,举例一种:
解决方案:
其余错误可百度搜索。
二。开始编程。
爬取无反爬虫措施的静态网站。例如百度贴吧,豆瓣读书。
例如-《桌面吧》的一个帖子https://tieba.baidu.com/p/2460150866?red_tag=3569129009
python代码如下:
代码注释:引入了两个模块urllib,re。定义两个函数,第一个函数是获取整个目标网页数据,第二个函数是在目标网页中获取目标图片,遍历网页