python爬虫和HTML网页-技术硬货篇

我们大家难免会有过这样的疑问:网页是怎么做出来的?

这时,就有人说了:用HTML不就能做吗?

那我再问你,那些百度、搜索,甚至CSDN这种网页,你做的出来吗?

你现在一定在想:怎么获取他们的代码?

哎,说到点子上了,作者虽然学过c++,但是这个用c++做还是不太可能,所以还是用python做。

原理就不讲了,新手也能看懂

import requests

# 获取网页源代码
def getHtml(url):
    # 发送请求,r:response
    res = requests.get(url)  
    # 判断是否请求成功
    if res.status_code == 200:  
        # 设置编码
        res.encoding = res.apparent_encoding  
        # 获取html文本数据,t:text
        return res.text   
    else:
        print('请求失败')
        return ''

# 目标网址
url = 'https://www.baidu.com' 
html = getHtml(url) 
# 输出网页源代码
print(html)

现在,你也能做出网页了,去试一试吧!

作者获取百度的截图

这是自己做的百度

这是正版百度

 可以看出,差别还是不大的。

搜索功能也可以使用。

注:获取的是HTML代码,不要用python的编译器编译

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
Python云听爬虫是一个用Python编写的简单的网络爬虫工具,用于爬取一些特定规则的音乐网站和小说网站上的标题、关键字和摘要信息。它只能针对那些在<head>标签中具有这三个信息且<meta>标签中name参数在文本信息前面的网站进行爬取。这个爬虫并不是通用网络爬虫,它只针对特定的网站和特定的信息进行爬取,而通用网络爬虫则是用于在全互联网中爬取目标资源的爬虫,性能要求较高,主要应用于大型搜索引擎中。在爬虫开发过程中,常见的技术手段包括分布式(代理IP)、异步数据解析(内置浏览器内核)、光学图片识别、模拟验证(模拟请求Header、User-Agent、Token)等。网络爬虫需要注意资源开销,避免对Web服务器造成干扰。123 #### 引用[.reference_title] - *1* [python简单实现网络爬虫](https://blog.csdn.net/xiexieyuchen/article/details/128193159)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] - *2* *3* [{ 硬货 } python爬虫爬虫与反爬虫,再不看就没了](https://blog.csdn.net/weixin_39641103/article/details/111753560)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] [ .reference_list ]
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值