百度最近推出了精选问答功能,即更新文章,审核通过即可展现在移动端第一位。如果多人做同一个词,那么进行轮流展现。
接着进入正题,因为百度精选问答存在着不生效或者未审核通过的问题,因此也就诞生了检测精选问答是否生效的需求,因此再进行改进,但是如果手工一个一个查询,要是查询数量又很多,那么就要命了。故而这段代码就诞生了,这里谢谢陈东尧,因为这的代码在他的基础上改进的。
实现原理:查询关键词排名是否在第一位判断精选问答是否生效,非常简单。
PS:因为百度精选问答实现轮展机制,故而并不能达到百分之百正确。
代码奉上,也欢迎提出建议!
#!/usr/bin/env python3
# -*- coding: utf-8 -*-
import urllib
from urllib import request,error,parse
import requests # 需要用pip命令安装requests模块
import time
import re
import random
uaList = ['Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36',
'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36']
ua = random.choice(uaList)
key_url=[]
key_word=[]
def download(url,timeout=10,user_agent='dyspider',proxy=None,num_retries=5):
"""
通用网页源码下载函数
:param url: 要下载的url
:param timeout: 请求超时时间,单位/秒。可能某些网站的反应速度很慢,所以需要一个连接超时变量来处理。
:param user_agent: 用户代理信息,可以自定义是爬虫还是模拟用户
:param proxy: ip代理(http代理),访问某些国外网站的时候需要用到。必须是双元素元组或列表(‘ip:端口’,‘http/https’)
:param num_retries: 失败重试次数
:return: HTML网页源码
"""
headers = {'User-Agent':user_agent}
request = urllib.request.Request(url,headers=headers)
if proxy: # 如果有代理值,可以通过set_proxy方法添加上
proxy_host,proxy_type = proxy # 对proxy值进行解包
request.set_proxy(proxy_host,proxy_type)
print('Downloading:',url)
try:
# 打开网页并读取内容存入html变量中
html = urllib.request.urlopen(request,timeout=timeout).read().decode('utf-8')
except urllib.error.URLError as err:
print('Download error:',err.reason)
html = None # 如果有异常,那么html肯定是没获取到的,所以赋值None
if num_retries > 0:
if hasattr(err,'code') and 500 <= err.code <= 600:
return download(url,timeout,user_agent,proxy,num_retries-1)
return html
def createKey(): #create baidu URL with search words
with open('关键词.txt') as f:
for key in f:
key_word.append(key)
if __name__ == '__main__':
createKey()
with open('精选问答结果.txt', 'a', encoding='utf-8') as f:
f.write('***********'+time.strftime("%Y-%m-%d %H:%M:%S", time.localtime())+'***********'+'\n')
for k in key_word:
t = 0
key_url = parse.quote(k.strip())
for p in range(0,11,10): # 第二个参数设置页数(前二页11,前三页21,前四页31,以此类推。)
url = 'https://m.baidu.com/s?wd=%s&pn=%d&rn=10' % (key_url,p)
html = download(url, user_agent=ua)
a = re.findall(r"'order':'(\d+)','waplogo':1,'mu':'(.*?)'", html, re.S | re.I)
for i in a:
if 'm.gaodun.com/zhongji' in i[1]: # 这里指定需要检测的网址
with open('精选问答结果.txt', 'a', encoding='utf-8') as f:
line = k.strip() + '\t' + '第%s名:' % i[0] + i[1] + '\n'
f.write(line)
f.flush()
t = 1
break
else:
continue
if t == 1:
break
else:
continue
if t==0:
with open('精选问答结果.txt', 'a', encoding='utf-8') as f:
line = k.strip() + '\t' + '排名>10'+ '\n'
f.write(line)
f.flush()
print('完成!')