最近整理了一下python的基础知识,大家一般对“爬虫”这个词,一听就比较熟悉,都知道是爬一些网站上的数据,然后做一些操作整理,得到人们想要的数据,但是怎么写一个爬虫程序代码呢?相信很多人是不会的,今天写一个针对新手入门想要学习爬虫的文章,希望对想要学习的你能有所帮助~~废话不多说,进入正文!
一、准备工作
1、首先代码使用python3.x编写的,要有一个本地的python3环境。
python下载地址页面:https://www.python.org/downloads/release/python-370/
2、然后要有一个开发工具,推荐PyCharm,一款很好的Python交互IDE。Python自带编译器 -- IDLE也可以。
PyCharm下载地址页面:https://www.jetbrains.com/pycharm/download/
3、准备工作都做好就可以做开发在IDE里编写代码程序了。
二、简单爬虫代码开发
以豆瓣网为例,爬取豆瓣官网页面,看看能获取到什么东西,代码如下:
代码:
-
# -*- coding: utf-8 -*-
-
import urllib.request
-
# 1、网址url --豆瓣网
-
url = 'http://www.douban.com'
-
# 2、直接请求 返回结果
-
response = urllib.request.urlopen(url)
-
# 3、获取状态码,如果是200表示获取成功
-
print ('状态码:',response.getcode())
-
# 4、读取内容
-
data = response.read()
-
# 5、设置编码
-
data = data.decode('utf-8')
-
# 6、打印结果
-
print (data)
运行结果:
截取部分代码如下,第一行是状态码:200,表明获取成功,下面是爬取到的豆瓣页面代码,由于内容过多,故截取以下部分内容。
感兴趣的小伙伴可以动手试试,欢迎(进q群 467604262)交流~~