python利用beautifulsoup多页面爬虫

最新推荐文章于 2023-10-31 10:27:55 发布

dimiaofan3981

最新推荐文章于 2023-10-31 10:27:55 发布

阅读量328

点赞数

文章标签：爬虫 python

原文链接：http://www.cnblogs.com/mm20/p/10357727.html

版权

利用了beautifulsoup进行爬虫，解析网址分页面爬虫并存入文本文档：

结果：

源码：

from bs4 import BeautifulSoup
from urllib.request import urlopen
with open("热门标题.txt","a",encoding="utf-8") as f:
    for i in range(2):
        url = "http://www.ltaaa.com/wtfy-{}".format(i)+".html"
        html = urlopen(url).read()
        soup = BeautifulSoup(html,"html.parser")
        titles = soup.select("div[class = 'dtop' ] a") # CSS 选择器
        for title in titles:
             print(title.get_text(),title.get('href'))# 标签体、标签属性
             f.write("标题：{}\n".format(title.get_text()))

转载于:https://www.cnblogs.com/mm20/p/10357727.html