page = 1
while 1:
file_name = f'index_{page}.html'
file_path = os.path.join(index_html_data_path, file_name)
if os.path.exists(file_path):
page += 1
continue
url = f'https://www.londonstockexchange.com/live-markets/market-data-dashboard/price-explorer?categories=ETFS&subcategories=15&page={page}'
headers[
'path'] = f'/live-markets/market-data-dashboard/price-explorer?categories=ETFS&subcategories=15&page={page}'
r = requests.get(url, headers=headers)
if r.status_code == 200:
text = r.text
html = etree.HTML(text)
class_attr = ''.join(html.xpath('//div[@class="paginator"]/a[@title="Go to last page"]/@class'))
with open(file_path, 'w', encoding='utf-8') as f:
f.write(text)
print(f'{file_name}, 下载成功!')
保存html文件
最新推荐文章于 2023-08-10 11:55:58 发布
这段代码用于从伦敦证券交易所网站抓取关于ETF的市场数据。它通过循环页码,检查文件是否存在,如果不存在则发送HTTP请求获取HTML内容,并使用BeautifulSoup解析,最后将文本内容写入文件。下载过程中,若请求状态码为200,则表示下载成功。
摘要由CSDN通过智能技术生成