检测百度精选(专业)问答是否生效

 百度最近推出了精选问答功能,即更新文章,审核通过即可展现在移动端第一位。如果多人做同一个词,那么进行轮流展现。

接着进入正题,因为百度精选问答存在着不生效或者未审核通过的问题,因此也就诞生了检测精选问答是否生效的需求,因此再进行改进,但是如果手工一个一个查询,要是查询数量又很多,那么就要命了。故而这段代码就诞生了,这里谢谢陈东尧,因为这的代码在他的基础上改进的。

实现原理:查询关键词排名是否在第一位判断精选问答是否生效,非常简单。

PS:因为百度精选问答实现轮展机制,故而并不能达到百分之百正确。

代码奉上,也欢迎提出建议!

#!/usr/bin/env python3
# -*- coding: utf-8 -*-
import urllib
from urllib import request,error,parse
import requests # 需要用pip命令安装requests模块
import time
import re
import random

uaList = ['Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
    'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36']
ua = random.choice(uaList)
key_url=[]
key_word=[]

def download(url,timeout=10,user_agent='dyspider',proxy=None,num_retries=5):
    """
    通用网页源码下载函数
    :param url: 要下载的url
    :param timeout: 请求超时时间,单位/秒。可能某些网站的反应速度很慢,所以需要一个连接超时变量来处理。
    :param user_agent: 用户代理信息,可以自定义是爬虫还是模拟用户
    :param proxy: ip代理(http代理),访问某些国外网站的时候需要用到。必须是双元素元组或列表(‘ip:端口’,‘http/https’)
    :param num_retries: 失败重试次数
    :return: HTML网页源码
    """
    headers = {'User-Agent':user_agent}
    request = urllib.request.Request(url,headers=headers)
    if proxy: # 如果有代理值,可以通过set_proxy方法添加上
        proxy_host,proxy_type = proxy # 对proxy值进行解包
        request.set_proxy(proxy_host,proxy_type)
    print('Downloading:',url)
    try:
        # 打开网页并读取内容存入html变量中
        html = urllib.request.urlopen(request,timeout=timeout).read().decode('utf-8')
    except urllib.error.URLError as err:
        print('Download error:',err.reason)
        html = None # 如果有异常,那么html肯定是没获取到的,所以赋值None
        if num_retries > 0:
            if hasattr(err,'code') and 500 <= err.code <= 600:
                return download(url,timeout,user_agent,proxy,num_retries-1)
    return html

def createKey():   #create baidu URL with search words
    with open('关键词.txt') as f:
        for key in f:
            key_word.append(key)

if __name__ == '__main__':
    createKey()
    with open('精选问答结果.txt', 'a', encoding='utf-8') as f:
        f.write('***********'+time.strftime("%Y-%m-%d %H:%M:%S", time.localtime())+'***********'+'\n')
    for k in key_word:
        t = 0
        key_url = parse.quote(k.strip())
        for p in range(0,11,10): # 第二个参数设置页数(前二页11,前三页21,前四页31,以此类推。)
            url = 'https://m.baidu.com/s?wd=%s&pn=%d&rn=10' % (key_url,p)
            html = download(url, user_agent=ua)
            a = re.findall(r"'order':'(\d+)','waplogo':1,'mu':'(.*?)'", html, re.S | re.I)
            for i in a:
                if 'm.gaodun.com/zhongji' in i[1]:  # 这里指定需要检测的网址
                    with open('精选问答结果.txt', 'a', encoding='utf-8') as f:

                        line = k.strip() + '\t' + '第%s名:' % i[0] + i[1] + '\n'
                        f.write(line)
                        f.flush()
                        t = 1
                        break
                else:
                    continue
            if t == 1:
                break
            else:
                continue
        if t==0:
            with open('精选问答结果.txt', 'a', encoding='utf-8') as f:
                line = k.strip() + '\t' + '排名>10'+ '\n'
                f.write(line)
                f.flush()
    print('完成!')

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值