from urllib.request import urlopen
from bs4 import BeautifulSoup
html = urlopen("http://www.pythonscraping.com/pages/warandpeace.html")
bsObj = BeautifulSoup(html)
#根据css样式表查找
nameList = bsObj.findAll("span", {"class":"green"})
for name in nameList:
print(name.get_text()) #get_text()能去除标签
find和findAll用法介绍:
**findAll(tag, attributes, recursive, text, limit, keywords)
find(tag, attributes, recursive, text, keywords)**
一般只用到前两个参数 tag,attribute
tag: .findAll({“h1”,”h2”,”h3”,”h4”,”h5”,”h6”}) attribute:
.findAll(“span”, {“class”:{“green”, “red”}})
递归参数 recursive 是一个布尔变量。你想抓取 HTML 文档标签结构里多少层的信息?如果 recursive 设置为 True , findAll 就会根据你的要求去查找标签参数的所有子标签,以及子标签的子标签。如果 recursive 设置为 False , findAll 就只查找文档的一级标签。
findAll 默认是支持递归查找的( recursive 默认值是 True );一般情况下这个参数不需要设置,除非你真正了解自己需要哪些信息,而且抓取速度非常重要,那时你可以设置递归参数。
文本参数 text 有点不同,它是用标签的文本内容去匹配,而不是用标签的属性。假如我们想查找前面网页中包含 “the prince” 内容的标签数量nameList = bsObj.findAll(text=”the prince”)
范围限制参数 limit ,显然只用于 findAll 方法。 find 其实等价于 findAll 的 limit 等于 1 时的情形。如果你只对网页中获取的前 x 项结果感兴趣,就可以设置它。但是要注意,这个参数设置之后,获得的前几项结果是按照网页上的顺序排序的,未必是你想要的那前几项
关键词参数 keyword ,可以让你选择那些具有指定属性的标签