今天分享一个爬虫的简单实例,目标是爬取一个外文网站的博客信息,然后通过谷歌翻译成英文并使用百度搜索验证。
今天只是简单实现功能,以后有时间结合Scrapy框架综合的写一个博客。
# _*_ coding:utf-8 _*_
# @Time : 15:52
# @Author :baizhou
from googletrans import Translator
import requests
from lxml import etree
def Google_Translator(text):
'''
利用谷歌翻译,实现文本翻译
:param text:
:return:
'''
translator = Translator(service_urls=['translate.google.cn'])
result = translator.translate(text, dest="zh-CN").text
return result
def Check_frequency(text, count):
'''
使用百度搜索,完成出现频率统计
:param text:
:return: 返回yes or no
'''
# 拼url
urls = "http://www.baidu.com/s?ie=UTF-8&wd={}".format(text)
# 请求百度
# 构造请求头
headers = {
'User-Agent': "Mozilla/4.0 (compatibl