Python自动化查询CNKI并获取查询结果

本文介绍了使用Python的selenium库和BeautifulSoup模块自动化爬取CNKI的过程,但遇到频繁访问后出现验证码的问题,期待解决方案。
摘要由CSDN通过智能技术生成

最初是由GIS才认识Python,给朋友帮忙,写了个爬取CNKI的脚本,主要运用了selenium下的webdriver以及BeautifulSoup模块。运行下来,发现频繁的访问会导致验证码的出现,暂时没解决这个问题,有知道的大神请不吝赐教。

上代码:

#!/usr/bin/env python

# -*- coding:utf-8-*-
__author__='Alex Gu'
__time__='20160121'

#解决提交后出现汉字转码问题用下面三行代码
import sys
reload(sys)
sys.setdefaultencoding('utf-8')
#导入必要的模块
from selenium import webdriver
from time import sleep
from BeautifulSoup import BeautifulSoup
#定义提取单个网页中所需信息的函数
def Ex_CNKImesg(wy):
    soup=BeautifulSoup(wy)
    top_div=soup.find("div",{"id":"main"})
    aa_=top_div.find("div",{"id":"content"})
    bb_=aa_.find("div")
    cc_=bb_.find('div',{"class":"summary pad10"})
    dd_=cc_.
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值