python百度关键词自动提交订单_python开发全自动网站链接主动提交百度工具

自己网站因数据比较多,趁晚上没事就写了一个通过python爬取url自动提交给百度,实现网站全站提交的思路,代码实现很简单,因为编写时间仓储,难免有些bug,可以放在服务器上配置下定时爬取提交。

import os

import re

import shutil

REJECT_FILETYPE = ‘rar,7z,css,js,jpg,jpeg,gif,bmp,png,swf,exe‘ #定义爬虫过程中不下载的文件类型

def getinfo(webaddress): #‘#通过用户输入的网址连接上网络协议,得到URL我这里是我自己的域名

global REJECT_FILETYPE

url = ‘http://‘+webaddress+‘/‘ #网址的url地址

print ‘Getting>>>>> ‘+url

websitefilepath = os.path.abspath(‘.‘)+‘/‘+webaddress #通过函数os.path.abspath得到当前程序所在的绝对路径,然后搭配用户所输入的网址得到用于存储下载网页的文件夹

if os.path.exists(websitefilepath): #如果此文件夹已经存在就将其删除,原因是如果它存在,那么爬虫将不成功

shutil.rmtree(websitefilepath) #shutil.rmtree函数用于删除文件夹(其中含有文件)

outputfilepath = os.path.abspath(‘.‘)+‘/‘+‘output.txt‘ #在当前文件夹下创建一个过渡性质的文件output.txt

fobj = open(outputfilepath,‘w+‘)

command = ‘wget -r -m -nv --reject=‘+REJECT_FILETYPE+‘ -o ‘+outputfilepath+‘ ‘+url #利用wget命令爬取网站

tmp0 = os.popen(command).readlines() #函数os.popen执行命令并且将运行结果存储在变量tmp0中

print >> fobj,tmp0 #写入output.txt中

allinfo = fobj.read()

target_url = re.compile(r‘\".*?\"‘,re.DOTALL).findall(allinfo) #通过正则表达式筛选出得到的网址

print target_url

target_num = len(target_url)

fobj1 = open(‘result.txt‘,‘w‘) #在本目录下创建一个result.txt文件,里面存储最终得到的内容

for i in range(target_num):

if len(target_url[i][1:-1])<70: # 这个target_url 是一个字典形式的,如果url 长度大于70 就不会记录到里面

print >> fobj1,target_url[i][1:-1] #写入到文件中

else:

print "NO"

fobj.close()

fobj1.close()

if os.path.exists(outputfilepath): #将过渡文件output.txt删除

os.remove(outputfilepath) #删除

if __name__=="__main__":

webaddress = raw_input("Input the Website Address(without \"http:\")>")

getinfo(webaddress)

print "Well Done."

然后进入百度主动提交栏目,找到api接口,提交下数据即可

原文地址:https://www.cnblogs.com/68xi/p/9348357.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值