Python爬虫XPATH

import urllib
import urllib.request
import lxml
from lxml import etree
a=0

def loadPage(url):
    """

    :param url:
    :param filename:
    :return:
    """

    request=urllib.request.Request(url=url)
    response=urllib.request.urlopen(request)
    html=response.read()
    # print(html)
    content=etree.HTML(html)
    #print(content)
    #返回的是所有匹配成功后匹配集合threadlist_lz clearfix
    #//div[@class="threadlist_lz clearfix"]//a[@"j_th_tit"]/ahref
    #//img[@"BDE_imge"]/@src

    link_list=content.xpath('//div[@class="t_con cleafix"]/div/div/div/a/@href')
    # print(link_list)
    for link in link_list:
        print(link)
        fulllink='http://tieba.baidu.com'+link
        # print(fulllink)
        loadImage(fulllink)



def loadImage(link):
    print(link)
    request=urllib.request.Request(link)
    response=urllib.request.urlopen(request)
    html=response.read()

    content=etree.HTML(html)
    #print(content)

    # link_list1=content.xpath('//div[@class="d_post_content j_d_post_content  clearfix]/')
    # print(link_list1)
    link_list=content.xpath('//img[@class="BDE_Image"]/@src')
    print(link_list)
    for link in link_list:
        writeImage(link)
        # print(link)


def writeImage(link):
    """

    # :param link:
    :return:
    """
    request=urllib.request.Request(link)
    image=urllib.request.urlopen(request).read()
    filename=link[-5:]
    with open(filename,'wb')as f:
        f.write(image)
    print('-'*30)
    print('打印是照片' + str(a))
    a=a+1



def tiebaSpider(url,beginPage,endpPage):
    for page in range(beginPage,endpPage+1):
        pn=(page-1)*50
        # filename='第'+str(page)+'页.html'
        fullurl=url+"&pn"+str(pn)
        html=loadPage(fullurl)


if __name__=="__main__":
    kw=input('请输入你要需要爬取的贴吧名:')
    beginPage=int(input('请输入起始页'))
    endPage=int(input('请输入结束页'))
    url='https://tieba.baidu.com/f?'
    kw1={'kw':kw}
    key = urllib.parse.urlencode(kw1)
    fullurl=url+key
    print(fullurl)

    tiebaSpider(fullurl,beginPage,endPage)

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值