淘宝图片爬虫

淘宝只有简单的反爬,就是cookie反爬,加入了cookie即可。下面是代码,用的Beautifulsoup和正则做的,如果不懂可以留言

在这里插入代码片


import requests
from bs4 import BeautifulSoup
import urllib.request
import re
import os
import time

headers={
        'cookie' : ‘写自己的账号的cookie',
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/74.0.3729.169 Safari/537.36'
    }

paqucishu=0
def get_one_page(url):
    url.encode("UTF-8")
    urls=requests.get(url,headers=headers)
    urls=urls.text.encode("UTF-8")
    # print(url)
    # print(urls)
    soup=BeautifulSoup(urls,"lxml")
    # print(soup)
    zhengze='"pic_url":"//(.*?)",'
    zhengze_mingzi='"raw_title":"(.*?)",'
    imgs=re.compile(zhengze).findall(str(soup))
    mingzi=re.compile(zhengze_mingzi).findall(str(soup))
    # imgs=soup.select("div > div.pic")
    # print(imgs)
    # print(imgs)
    global paqucishu
    for img,mingzi in zip(imgs,mingzi):
        img="https://"+img
        print(img)
        try:
            time.sleep(0.2)
            file="E:/淘宝图抓取/超级短裙/"+str(mingzi)+".jpg"
            urllib.request.urlretrieve(img,filename=file)
            print("爬取"+str(paqucishu)+"成功")
            paqucishu=int(paqucishu)+1
        except Exception as result:
            print('图片下载失败' + str(result))
def get_one_pages():
    key=input("请输入你想爬取的图片的名称呼种类")
    nums=int(input("请输入你想爬取的页数"))
    for i in range(0,nums):
        key_name=urllib.request.quote(key)
        url="https://s.taobao.com/search?q="+key_name+"&s="+str(int(i)*44)
        # print(url)
        print("开启第")
        print(i)
        print("页爬取")
        time.sleep(1)
        get_one_page(url)

if __name__ == '__main__':
    # print(os.getcwd())
    get_one_pages()

#来自csdn
#the 程序员










#来自csdn 
#the 程序员









  • 1
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 13
    评论
你可以使用Python编写爬虫来获取淘宝评论中的图片。 首先,你需要安装所需的库。你可以使用`pip`命令来安装`requests`和`beautifulsoup4`库,它们可以帮助你发送HTTP请求并解析HTML页面。 ```python pip install requests beautifulsoup4 ``` 接下来,你可以使用以下代码片段作为爬取淘宝评论图片的起点: ```python import requests from bs4 import BeautifulSoup def get_taobao_comments(url): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36' } response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') # 从页面中提取评论图片的链接 image_links = soup.find_all('img', class_='J_ItemPic') # 下载评论图片 for i, link in enumerate(image_links): image_url = link['src'] image_data = requests.get(image_url).content with open(f'image_{i}.jpg', 'wb') as f: f.write(image_data) print(f'Downloaded {len(image_links)} images.') # 替换为你要爬取的淘宝商品链接 url = 'https://item.taobao.com/item.htm?id=xxxxxxx' get_taobao_comments(url) ``` 请注意,这段代码仅供参考,具体实现方式可能因淘宝页面结构的变化而有所不同。你可能需要进一步了解淘宝页面的HTML结构,并根据实际情况进行适当的调整。 此外,爬取淘宝数据需要遵守网站的规则,并尊重相关法律法规。在进行任何网络数据爬取时,请确保你的行为合法合规,并遵守网站的使用条款。
评论 13
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值