Python爬虫程序(初学者版)

爬虫指网络爬虫,模拟客户端批量获取信息,比如互联网是网,爬虫程序就是蜘蛛。

Python爬虫需要两个工具库:

requests和parsel

(第三方库需要另外安装,在终端输入以下代码)

python -m pip install requests
python -m pip install parsel

requests用来请求网站,获取网站信息。

parsel用来解析数据,提取信息。

今天我们做一个简单的程序,可以爬取网站所有的图片名。

首先看以下代码:

import requests
import parsel
url = "https://example.com" #这里写网站地址
response = requests.get(url)
parsel = parsel.Selector(response)
img_object = parsel.xpath(\"//img/@src\")
for i in img_object:
    img_href = i.get() 
    file_name = img_href.split("/")[-1]
    print(file_name)

requests的get()函数可以请求网站,和post()函数用法一致。get(网址)可以请求网址,用.text属性可以获取网页源代码信息。
创建一个变量url,写网址。

创建一个变量selector,意思为选择器。选择网页源代码。

用selector的xpath属性,括号内写xpath语法。

//img/@src:匹配所有img节点,获取src属性。

之后遍历img_object,i的.get()属性可以提取信息,之后用.split()分割,最后一节通常是图片名,用索引获取最后一节。

之后用print()函数输出,程序就大功告成了。

  • 8
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值