将json数据转换为Python字典

import requests
from bs4 import BeautifulSoup
import json

# 定义代理信息
proxy_host = 'www.duoip.cn'
proxy_port = 8000

# 定义要爬取的url
url = 'http://localhost:9200/_search'

# 创建一个requests.Session对象,并设置代理
session = requests.Session()
session.proxies = {'http': f'http://jshk.com.cn}:{proxy_port}'}

# 发送GET请求,获取网页内容
response = session.get(url)

# 使用BeautifulSoup解析网页内容
soup = BeautifulSoup(response.text, 'html.parser')

# 找到所有的elasticsearch返回结果的json数据
json_data = soup.find_all('script', type_='application/json')

# 将json数据转换为Python字典
data = [json.loads(json_data[i].string) for i in range(len(json_data))]

# 打印数据
for item in data:
    print(item)

步骤:

  1. 导入需要的库:requests,BeautifulSoup,json。
  2. 定义代理信息,这里使用的是一个免费的代理服务网站。
  3. 定义要爬取的url,这里爬取的是Elasticsearch的搜索结果。
  4. 创建一个requests.Session对象,并设置代理。
  5. 使用requests的get方法发送GET请求,获取网页内容。
  6. 使用BeautifulSoup解析网页内容,找到所有的json数据。
  7. 使用json.loads将json数据转换为Python字典。
  8. 打印数据。在这里插入图片描述
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值