百度贴吧爬虫并保存至目录中

该Python脚本实现从百度贴吧搜索特定关键词,爬取含有图片的帖子,并将图片下载到本地,最后将图片移动到指定目录。用户输入关键词后,脚本首先获取帖子链接,随后解析每个帖子页面获取图片链接,下载图片并以图片链接的后10位作为文件名。最后,将所有图片移动到'BeautyGirl'目录下。
摘要由CSDN通过智能技术生成
#!/usr/bin/env python
# encoding: utf-8

import urllib2
from lxml import etree
import urllib
import os
from shutil import copyfile

if __name__ == "__main__":
    #  首先请求爬取到所有页面中有图片的地方
    keyword = raw_input("请输入需要搜索的内容:")
    kw = {"kw": keyword}
    kw = urllib.urlencode(kw)
    url = "http://tieba.baidu.com/f?" + kw
    header = {"User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11"}
    request = urllib2.Request(url)
    html = urllib2.urlopen(request).read()
    # 使用etree的方法解析成xml文件,然后用xpath的方法来解析,直接拿到图片后几位数字,拼接成链接
    content = etree.HTML(html)
    link_list = content.xpath('//div[@class="t_con cleafix"]/div/div/div/a/@href')
    for link in link_list:
        fulllink = "http://tieba.baidu.com" + link
        # print fulllink
   
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值