15天学会爬虫 第三天

爬虫

第三天

1.三元运算符

a = b if b else c # 如果b为真,a=b,否则a=c

if b:
    a = b
else:
    a = c

2.requests处理cookies

  1. 将cookie字符串直接放入headers中

  2. 准备cookie字典,在requests请求实传入cookies参数中

    cookies_dict = {
         }
    requests.get
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
Python 爬虫常用的第三方库有很多,以下是其中比较常用的一些: 1. requests:用来发送 HTTP/1.1 请求,可以模拟浏览器向网站发送请求并获取响应。使用简单,功能强大,支持 HTTP/HTTPS 协议。 2. BeautifulSoup:用来解析 HTML/XML 文档,可以快速从网页中提取所需的信息。使用简单,支持多种解析器。 3. Scrapy:一个基于 Python 的开源网络爬虫框架,可以用来抓取网页、提取数据、处理数据等。功能强大,支持分布式爬取。 4. Selenium:用于自动化测试和网页爬取的工具,可以模拟浏览器操作,获取动态生成的内容。支持多种浏览器,可以通过插件扩展功能。 5. PyQuery:是 jQuery 库的 Python 实现,可以用来解析 HTML/XML 文档,并使用类似 jQuery 的语法来查询和操作文档中的元素。 6. Pymongo:是 MongoDB 的 Python 驱动程序,可以用来连接 MongoDB 数据库,并进行数据的读写操作。 7. Pillow:Python 图像处理库,可以用来打开、创建、保存各种图像文件,并进行图像处理、编辑等操作。 8. Pytesseract:是 Google 开发的 OCR(Optical Character Recognition)引擎,可以用来识别图片中的文字。 9. Pandas:Python 数据分析库,可以用来处理和分析各种数据,支持数据清洗、转换、合并、分组、统计等操作。 以上是常用的一些 Python 爬虫第三方库,具体使用需要根据自己的需求选择。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值