python爬虫——BeautifulSoup
BeautifuSoup介绍
BeautifuSoup‘美味汤’，他是Python的一个第三方库，它能够对HTML格式进行解析，并且提取相关的信息。
Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能。它是一个工具箱，通过解析文档为用户提供需要抓取的数据，因为简单，所以不需要多少代码就可以写出一个完整的应用程序。
Beautiful Soup自动将输入文档转换为Unicode编码，输出文档转换为utf-8编码。你不需要考虑编码方式，除非文档没有指定一个编码方式，这时，Beautiful Soup就不能自动识别编码方式了。然后，你仅仅需要说明一下原始编码方式就可以了。
BeautifuSoup的安装
可以直接在cmd下用pip命令进行安装。
pip install beautifullsoup4
BeautifuSoup的基本用法
BeautifuSoup类的基本元素
| 基本元素 | 说明 |
|---|---|
| Tag | 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾 |
| Name | 标签的名字 |
| Attributes | 标签的属性，字典形式组织 |
| NavigableString | 标签内非属性字符串 |
| Comment | 标签内字符串的注释部分，一种特殊的Comment类型 |
基于bs4库的HTML内容遍历方法
-
标签树的下行遍历
.contents：子节点的列表，将<tag>所有儿子节点存入列表,
.children：子节点的迭代类型，与.contents类似，用于循环遍历儿子节点,
.descendants：子孙节点的迭代类型，包含所有子孙节点，用于循环遍历 -
标签树的上行遍
.parent：节点的父亲标签,
.parents：节点先辈标签的迭代类型，用于循环遍历先辈节点, -
标签树的平行遍历
.next_sibling 返回按照HTML文本顺序的下一个平行节点标签,
.previous_sibling 返回按照HTML文本顺序的上一个平行节点标签,
.next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签,
.previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签,
Beautifulsoup爬取豆瓣电影t250的电影名称
# -*-coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:75.0) Gecko/20100101 Firefox/75.0'
}
proxy = {
"http": "124.88.67.81:80"
}
for i in range(0,10):
url = "https://movie.douban.com/top250?start=" + str(25 * i)
r = requests.get(url,proxies=proxy, headers=headers)
r.encoding=r.apparent_encoding
dome = r.text
soup = BeautifulSoup(dome,'html.parser')
for k in soup.body.find_all('img'):
print （k['alt']）
结果如下图所示
Beautifulsoup爬取中国最好大学排名
思路：
- 从网络上获取大学排名网页内容
- 提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，地区
- 利用数据结构展示并输出结果
# -*- coding: utf-8 -*-
import requests
from bs4 import BeautifulSoup
import bs4
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:75.0) Gecko/20100101 Firefox/75.0'
}
url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html"
def getHTMLText(url):
try:
r = requests.get(url, headers=headers)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return "产生异常"
def fillUnivList(ulist,html):
soup = BeautifulSoup(html, 'html.parser')
for tr in soup.find('tbody').children:
if isinstance(tr, bs4.element.Tag):
tds = tr('td')
ulist.append([tds[0].string, tds[1].string, tds[2].string])
def printUnivList(ulist, num):
tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
print(tplt.format("排名", "学校名称", "地区", chr(12288)))
for i in range(num):
u = ulist[i]
print(tplt.format(u[0], u[1], u[2], chr(12288)))
def main():
uinfo = []
url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html"
html = getHTMLText(url)
fillUnivList(uinfo,html)
printUnivList(uinfo,20)
if __name__ == "__main__":
main()
如果出现这个错误
此错误是python2和python3的区别引起的。
在python2中chr( n) 将编码n 转为字符，n的范围是 0 ~ 255
而python 3.0中，chr(n) 将编码n 转为字符，n的范围是 0 ~ 65535
chr(12288)在3中表示中文空格，因此在python2中使用chr(12288)就会报错。
需要更改为Python3.0以上版本
结果如下图所示：
python爬虫——Xpath
Xpath介绍
XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
XML文档是被作为节点树来对待的。
XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：
| 表达式 | 描述 |
|---|---|
| nodename | 选取此节点的所有子节点 |
| / | 从当前节点选区直接子节点 |
| // | 从当前节点选取子孙节点 |
| . | 选取当前节点 |
| … | 选取当前节点的父节点 |
| @ | 选取属性 |
Xpath的安装
可以直接在cmd下用pip命令进行安装。
pip install xpath
Xpath爬取丁香园-用户名和回复内容
思路：
- 获取url的html
- lxml解析html
- 利用Xpath表达式获取user和content
- 保存爬取的内容
# -*- coding: utf-8 -*-
from lxml import etree
import requests
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:75.0) Gecko/20100101 Firefox/75.0'
}
url = "http://www.dxy.cn/bbs/thread/626626#626626"
req = requests.get(url)
def getHTMLText(url):
try:
r = requests.get(url, headers=headers)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return "产生异常"
html = getHTMLText(url)
tree = etree.HTML(html)
tree
#Xpath表达式获取user和content
user = tree.xpath('//div[@class=\"auth\"]/a/text()')
content = tree.xpath('//td[@class=\"postbody\"]')
print(user)
#保存爬取的内容
results = []
for i in range(0, len(user)):
results.append(user[i].strip() + ": " + content[i].xpath('string(.)').strip())
for i,result in zip(range(0, len(user)),results):
print("user"+ str(i+1) + "-" + result)
print("*"*100)
结果如下图所示：
python爬虫——re
re的介绍
re模块主要功能是通过正则表达式是用来匹配处理字符串的。
典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。
re的使用
正则表达式
- 测试字符串内的模式
例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。 - 替换文本。
可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。 - 基于模式匹配从字符串中提取子字符串。
可以查找文档内或输入域内特定的文本。
可以使用正则表达式来搜索和替换标记。
re库的主要功能函数
- re.search() 在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象
re.search(pattern, string, flags=0) - re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象
re.match(pattern, string, flags=0) - re.findall() 搜索字符串，以列表类型返回全部能匹配的子串
re.findall(pattern, string, flags=0) - re.split() 将一个字符串按照正则表达式匹配结果进行分割，返回列表类型
re.split(pattern, string, maxsplit=0, flags=0) - re.finditer() 搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象
re.finditer(pattern, string, flags=0) - re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串
re.sub(pattern, repl, string, count=0, flags=0)
淘宝商品比价定向爬虫
思路：
- 提交商品搜索请求，循环获取页面
- 对于每个页面，提取商品名称和价格信息
- 将信息输出到屏幕上
# -*- coding: utf-8 -*-
import requests
import re
headers = {
'cookie': 'thw=cn; v=0; t=ab66dffdedcb481f77fd563809639584; cookie2=1f14e41c704ef58f8b66ff509d0d122e; _tb_token_=5e6bed8635536; cna=fGOnFZvieDECAXWIVi96eKju; unb=1864721683; sg=%E4%B8%8B3f; _l_g_=Ug%3D%3D; skt=83871ef3b7a49a0f; cookie1=BqeGegkL%2BLUif2jpoUcc6t6Ogy0RFtJuYXR4VHB7W0A%3D; csg=3f233d33; uc3=vt3=F8dBy3%2F50cpZbAursCI%3D&id2=UondEBnuqeCnfA%3D%3D&nk2=u%2F5wdRaOPk21wDx%2F&lg2=VFC%2FuZ9ayeYq2g%3D%3D; existShop=MTU2MjUyMzkyMw%3D%3D; tracknick=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; lgc=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _cc_=WqG3DMC9EA%3D%3D; dnk=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _nk_=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; cookie17=UondEBnuqeCnfA%3D%3D; tg=0; enc=2GbbFv3joWCJmxVZNFLPuxUUDA7QTpES2D5NF0D6T1EIvSUqKbx15CNrsn7nR9g%2Fz8gPUYbZEI95bhHG8M9pwA%3D%3D; hng=CN%7Czh-CN%7CCNY%7C156; mt=ci=32_1; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; swfstore=97213; x=e%3D1%26p%3D*%26s%3D0%26c%3D0%26f%3D0%26g%3D0%26t%3D0%26__ll%3D-1%26_ato%3D0; uc1=cookie16=UtASsssmPlP%2Ff1IHDsDaPRu%2BPw%3D%3D&cookie21=UIHiLt3xThH8t7YQouiW&cookie15=URm48syIIVrSKA%3D%3D&existShop=false&pas=0&cookie14=UoTaGqj%2FcX1yKw%3D%3D&tag=8&lng=zh_CN; JSESSIONID=A502D8EDDCE7B58F15F170380A767027; isg=BMnJJFqj8FrUHowu4yKyNXcd2PXjvpa98f4aQWs-RbDvsunEs2bNGLfj8BYE6lWA; l=cBTDZx2mqxnxDRr0BOCanurza77OSIRYYuPzaNbMi_5dd6T114_OkmrjfF96VjWdO2LB4G2npwJ9-etkZ1QoqpJRWkvP.; whl=-1%260%260%261562528831082',
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:75.0) Gecko/20100101 Firefox/75.0'
}
def getHTMLText(url):
try:
r = requests.get(url, timeout=30, headers=headers)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return "爬取失败"
def parsePage(ilt, html):
try:
# 使用正则表达式提取信息
#商品价格
plt = re.findall(r'', html)
#商品名称
name_list = re.findall(r'', html)
for i in range(len(pit)):
price = eval(plt[i].split(":")[1]) #eval（）在此可以去掉""
name = eval(name_list[i].split(":")[1])
ilt.append([price, name])
except:
print("解析失败")
def printGoodList(ilt):
tplt = "{0:^4}\t{1:^6}\t{2:^10}"
print(tplt.format("序号", "商品价格", "商品名称"))
count = 0
for g in ilt:
count = count + 1
print(tplt.format(count, g[0], g[1]))
def main():
goods_name = "书包" # 搜索商品类型
depth = 2
start_url = "https://s.taobao.com/search?q=" + goods_name
infoList = []
for i in range(depth):
try:
url = start_url + "&s=" + str(44 * i)
html = getHTMLText(url) # 爬取url
parsePage(info_list, html) #解析HTML和爬取内容
print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="") # 显示进度条
except:
continue
printGoodList(infoList)
if __name__ == "__main__":
main()
扫一扫
376
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
