FQA
Q 1 : web crawling 和 web scraping 的区别在哪里?
A 1: 简单来说,web crawling指的仅仅是使用爬虫机器人来索引网页,查看网页的信息,类似搜索引擎的工作;而web scraping涉及到数据提取,存储,计算等技术。scrapy 是web scrapying常用的一个框架。
Q2:爬虫基本教程?
A2:
step 1 : 使用urllib包得到网页源码
step 2 : 把源码放进bs包里,得到一个soup
step 3:使用soup来得到各种标签的内容
以上就是简单的爬虫步骤
Q3:什么是beautiful soup?
Q3:在step1中得到的网页,一般来说可以自行使用正则表达式来进行解析网页,比如写一个定位< p > 标签 或者< a > 标签。但是很费时间,这时候,beaufifulsoup是一个已经写好了的包,可以直接使用。bs里面有html解析器,xml解析器等。可以很方便的使用
Q4 : 什么是Scrapy?
A4:正如第一问所说, scrapy是一个常用的商业框架,不仅可以简单的爬取数据,还可以进行大量的数据处理,存储,分析等功能。