从0开始学爬虫~~~~~1
编译器 | IDLE |
---|---|
语言 | python |
1.爬虫原理
- 网络连接
网络连接就像自动售货机一样,用户选择商品(输入网址),投入硬币(发送请求到服务器),售货机弹出相应商品(服务器返回请求)
对于学习爬虫技术,只需要知道基本的网络连接原理即可 - 爬虫原理
了解了网络连接原理可以帮助我们更好的理解爬虫原理。网络连接需要计算机一次Requests请求和服务器端一次Response回应
(1)模拟计算机对服务器发送请求
(2)接受服务器端返回的数据,解析,提取我们所需要的数据
图解:
2.网页构造
- 查看网页代码
打开任意网页,然后右击空白处,在弹出的快捷键中选择“检查”命令,即可看到网页代码。如图,上半部分为HTML文件,下半部分为CSS样式,用的标签就是JavaScript代码。用户看到的网页就是浏览器渲染过后的样子。浏览器就像一个翻译官把HTML,CSS和JavaScript代码进行翻译 后得到用户看到的样子
如果把网页比喻为房子,那麽HTML就是房子的架构和布局,CSS就是房子的样式,JavaScript就是房子中的电器 - 查询网页信息
打开任意网页,然后右击空白处,在弹出的快捷键中选择“查看网页源代码”命令,即可看到网页源代码。如图:
3.第一个爬虫程序
- python第三方库的概念
库就是其他程序员已经写好了的程序被封装成了一个库供我们使用,用最少的代码写出最多的功能。就像造自行车,如果没有库就需要从原材料开始一步一步造,而有了库我们只需要把不同的部件组装起来就行了非常方便,快捷,这也是python流行起来的一部分原因。 - 第一个爬虫程序
注意:实际上写一个简易爬虫很简单,只要你初略了解相关知识就可以做到,学习python很重要的方法就是写代码,不管是抄还是自己写都比不动手来的快!!!!!!
代码附上:
import requests#导入模块(也叫库)
url='https://blog.csdn.net/PXXPY/article/details/107594925'#请求网址
response=requests.get(url=url)#发送请求
print(response.text)#打印源代码
这样一个简单的的爬虫就可以运行了
至于编码问题下期讲述辣~~~~~~~~~