以下是一个简单的网络爬虫示例,用于爬取指定网站的信息并保存到本地:
import requests
from bs4 import BeautifulSoup
# 指定要爬取的网站
url = 'https://www.example.com'
# 发送请求并获取响应
response = requests.get(url)
# 解析响应内容
soup = BeautifulSoup(response.text, 'html.parser')
# 获取需要的信息
title = soup.title.string
content = soup.find('div', {'class': 'content'}).get_text()
# 将信息保存到本地文件
with open('example.txt', 'w', encoding='utf-8') as f:
f.write(title + '\n\n')
f.write(content)
在上面的示例中,我们使用了requests库发送请求并获取响应,然后使用BeautifulSoup库解析响应内容,最后获取需要的信息并将其保存到本地文件中。请注意,这只是一个简单的示例,实际应用中可能需要更复杂的处理逻辑和异常处理。
From:oikita