python 爬虫 | selenium换页问题

我最近遇到一个问题我的selenium无法换页,我的代码如下。

chromeOptions = webdriver.ChromeOptions()
chromeOptions.add_experimental_option('excludeSwitches', ['enable-automation'])  chromeOptions.add_experimental_option('useAutomationExtension', False)
# chromeOptions.add_argument('headless')
# option.add_argument(f'user-agent=""')
chromeOptions.add_argument(f'Mozilla/5.0 (Linux; Android 5.0; SM-G900P Build/LRX21T) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.93 Mobile Safari/537.36')
browser = webdriver.Chrome(options=chromeOptions)
browser.execute_cdp_cmd('Page.addScriptToEvaluateOnNewDocument', {
    'source': 'Object.defineProperty(navigator, "webdriver", {get:()=> undefined})'
})
url = 'https://www.xiaohongshu.com/discovery/item/609338a7000000002103f213?xhsshare=CopyLink&appuid=5c4005ff000000000702876b&apptime=1620266299'
browser.get(url)

由于我在设置ua的时候没有加关键词(user-agent=),导致我发起请求的时候同时请求了方法add_argument 中的字符,我明明只写了一个get方法,但是却同时请求了多个网站,

从下图可以看出我的目标网站在第二个选项卡,其他网站都是无效网站,如果换页到我的目标网站的话应该是如下命令:

browser.window_handles[1]

ba311ecc2aa5c40a4cd18cd78fba0709.png


但是我发现换不过去,最后我发现如果把之前的命令换成-1,也就是:

browser.window_handles[-1]

的话就可以正常切换到目标网站,我大胆的推测,由于我的ua没加关键词导致,请求的时候会先请求我加进去的参数,最后才会请求我的目标网站,因此导致我换页的时候其实要换到最后一页。

我将所有无效的请求链接进行拼接得出

android/build/lrx21t/apchrome/90.0.4430.93 mobile/safari/537.36

我设置的ua为:Mozilla/5.0 (Linux; Android 5.0; SM-G900P Build/LRX21T) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.93 Mobile Safari/537.36

拼接的链接与ua对比,应该是以;为起始位,之后以空格进行分割,进行请求。

使用selenium同时请求多个网站时,展示的选项卡顺序并不一定就是正确的,如果没法切换到目标选项卡,不妨多调试几次。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值