关于python爬虫html文件打开是空白页的问题

几天第一次学习网络爬虫 写的第一个代码是这样的

from urllib.request import urlopen
url='https://www.baidu.com'
resp=urlopen(url)
with open('mybaidu.html',mode='wb') as f:
       f.write(resp.read())
print('完成!')

结果生成的“mybaidu.html”只有寥寥几行

<html>
<head>
	<script>
		location.replace(location.href.replace("https://","http://"));
	</script>
</head>
<body>
	<noscript><meta http-equiv="refresh" content="0;url=http://www.baidu.com/"></noscript>
</body>
</html>

打开的网页是空白页

后来发现原因是url的开头是https而非http将代码改成这样就正常了

主要还是http传输是明文的,而https是用ssl进行加密的。https具有安全性

from urllib.request import urlopen
url='http://www.baidu.com'
resp=urlopen(url)
with open('mybaidu.html',mode='wb') as f:
       f.write(resp.read())
print('完成!')

  • 2
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
好的,我可以给你提供一个简单的 Python 爬虫示例来爬取豆瓣多级评论页面并将其放入文件中。你可以按照以下步骤进行操作: 1. 安装 Python 的 requests 和 BeautifulSoup 模块。 2. 打开豆瓣多级评论页面,例如:https://movie.douban.com/subject/1292052/comments?start=0&limit=20&sort=new_score&status=P&percent_type= 3. 右键点击页面空白处,选择“检查元素”,找到评论区域对应的 HTML 代码。 4. 分析 HTML 代码,找到评论内容所在的标签和属性,例如:`<span class="short">评论内容</span>`。 5. 编写 Python 代码来爬取评论内容。以下是一个简单的示例: ```python import requests from bs4 import BeautifulSoup url = 'https://movie.douban.com/subject/1292052/comments?start=0&limit=20&sort=new_score&status=P&percent_type=' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') with open('comments.txt', 'w', encoding='utf-8') as f: for comment in soup.find_all('span', class_='short'): f.write(comment.text.strip() + '\n') ``` 以上代码中,我们使用 requests 模块来获取网页内容,使用 BeautifulSoup 模块来解析 HTML 代码。我们找到评论内容所对应的标签和属性,使用 soup.find_all() 方法来获取所有的评论内容,并将其写入文件中。 注意:豆瓣网站有反爬虫机制,如果你频繁地请求同一个页面,可能会被检测到并封禁 IP。因此在实际使用中,需要加入延时等措施,以避免被封禁。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值