python初学者是怎么写爬虫的?(16行代码爬百度),深入理解JVM的核心知识点

这篇博客通过16行Python代码展示了如何使用requests和BeautifulSoup库抓取百度搜索的HTML内容。作者强调了在抓取数据时如何筛选出非广告和非百度自家的内容,并提供了学习资源选择和学习计划制定的建议,包括一套全面的Python爬虫学习资料。
摘要由CSDN通过智能技术生成

F5运行如果不报错则说明安装成功。

打开浏览器,输入'www.baidu.com',即进入百度,随便搜索什么,我这里用'python'为例

可以发现,百度搜索出来的链接为

https://www.baidu.com/s?ie=utf-8&f=8&rsv_bp=1&tn=baidu&wd=python****

最后可以简化为:

https://www.baidu.com/s?wd=python

所以首先尝试获取搜索结果的html:

import requests

from bs4 import BeautifulSoup

url=‘https://www.baidu.com/s?wd=’+‘python’

headers = {“Accept”:“text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,/;q=0.8,application/signed-exchange;v=b3;q=0.9”,“User-Agent”:“Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.16 Safari/537.36”}

html = requests.get(url,headers=headers).text

print(html)

然后,我们再从HTML里面找出我们想要的

  • 25
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值