python 模拟用户点击浏览器_Python-模拟浏览器-下载文献

1.安装Python(注意添加环境变量(Path))

2.安装Pycharm(Python编译环境)

3.安装Chrom浏览器

4.网上下载Chrom浏览器对应的ChromDriver.exe放置到Python的安装目录下。

5.安装Splinter包(网上下载,解压后定位路径使用cmd采用python Setup.py install进行安装)

Pycharm运行代码如下:(简易程序,循环条件不控制) 只点击全选和下一页

#!usr/bin/env python

# -*- coding:utf-8 -*-

import time

from splinter import Browser

from selenium import webdriver

#driver = webdriver.Chrome()

#driver.maximize_window()

#用splinter自动操作浏览器

url = "Web Of Science URL" #80图书馆账号提前登陆

web_browser = Browser("chrome")

web_browser.visit(url)

time.sleep(5);

i=1;

while i<500: #‘500’根据浏览器实际需要点击下一页的次数决定,和检索结果有关

time.sleep(3);

web_browser.find_by_id('SelectPageChkId').click();

time.sleep(3);

str = web_browser.find_by_css('span.icon-number-messages').text

print(i, str); #输出当前页面和已经选择的条数

web_browser.find_by_css('a.paginationNext.snowplow-navigation-nextpage-top').click();

time.sleep(30); #修改点击下一页之前的时间,当前为30S,经过实际测试比较稳定

i += 1;

#下面是Splinter定位浏览器对象的方法

#time.sleep(1)

#web_browser.find_by_id("J-login").click()

#web_browser.fill("wd",u"猫")

#web_browser.find_by_id("su").click()

#time.sleep(3)

#web_browser.find_by_name("wd").fill(u"美女")

#web_browser.find_by_id("su").click()

#time.sleep(5)

#web_browser.quit()

记录于 2019.10.21

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python爬虫程序是一个用Python语言编写的程序,旨在爬取知网中以关键词“国家社科”搜索的文献信息。该程序通过模拟浏览器行为,使用网络请求获取搜索结果并自动提取所需的信息,包括题名、作者、单位、文献来源等。 为了实现这个目标,程序会访问知网的网站,根据搜索关键词构建查询链接,并发送请求获取搜索结果的网页内容。其中,查询链接的格式如下:https://kns.cnki.net/kns/brief/brief.aspx?pagename=ASP.brief_default_result_aspx&isinEn=1&dbPrefix=SCDB&dbCatalog=中国学术文献网络出版总库&ConfigFile=SCDBINDEX.xml&research=off&t=1572329280069&keyValue=计算机图形学&S=1&sorttype= 通过分析网页内容,程序可以确定搜索结果的位置和格式,并从中提取所需的信息。需要注意的是,由于搜索结果可能分布在多个页面,程序需要进行二次加载,即发送额外的请求获取完整的搜索结果。 需要指出的是,知网的网址在搜索前和搜索后并没有变化,因此不能直接请求入口网站来获取文章信息。相反,程序需要构建特定的查询链接,并通过发送请求获取相关的文献内容。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [python爬虫-爬知网社科基金信息.rar_python 爬虫知网_文献搜索_爬虫爬文献_知网爬虫_知网社科基金](https://download.csdn.net/download/weixin_42653672/86115002)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [Python3爬取知网文章](https://blog.csdn.net/weixin_43243968/article/details/102798585)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值