selenium爬虫实战:如何在无内鬼中找到内鬼?

本文介绍了使用selenium爬虫针对微博无内鬼环节的实践,通过自动化下载评论图片,手动筛选内鬼ID,并在后续爬取中排除这些ID,以提高效率。
摘要由CSDN通过智能技术生成

一、总述
微博带带大师兄的无内鬼环节出现的内鬼让很多狗粉丝头痛不已,selenium爬虫自动化下载无内鬼环节评论图片,人工筛选出发鬼图、恶心图的内鬼ID,在下次下载中将内鬼ID加入列表剔除即可。
二、弊端
效率低,表现在手动输入验证码,手动在剔除内鬼ID,加载网页、图片时需等待时间。
三、代码

from selenium import webdriver
from selenium.webdriver.common.action_chains import ActionChains
import time
import requests
import math
import os
import datetime

def verifycode():
    if wd.find_elements_by_xpath('//*[@src="about:blank"]') == []:
        vcode = input('请输入验证码:\n')
        wd.find_element_by_xpath('//*[@action-data="text=请输入验证码"]').send_keys(vcode)

def newwindow(word,wd):
    for i in wd.window_handles:#选择新的窗口
        wd.switch_to.window(i)
        if word in wd.title:
            break

def findneigui():
    element1 = wd.find_elements_by_xpath('.//*[@class="WB_repeat S_line1"]//*[@class="list_con"]')
    for i in element1:  # 保留:无内鬼
        if ':无内鬼  ' in i.get_attribute('outerHTML'):
            i.find_element_by_xpath(".//*[contains(text(),'条回复')]").click()  # 点击更多评论
            break
    pass

def ncommits():#得到总评论数
    time.sleep
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值