python爬取canvas标签数据,如何使用python从HTML canvas检索数据?

I am new of web scraping and for one of the project I am working on, I need to retrieve data of bitcoin transactions over time from an interactive chart (https://bitinfocharts.com/comparison/bitcoin-transactions.html) using Python 2.7. I found that all the data I want is hidden in the 855x455 canvas instead of directly in the html file. However, I could find those data in Page source in the form of [new Date("2018/02/18"),159333]]. Why is that? And how can I scrape those data? Appreciate for the help!

解决方案

On looking the html response I found that there is a script tag with all the entires added in Canvas.

var gIsLog = 0;

var gIsZoomed = "";

var d;

$(function() {

$(".average").each(function() {

$(this).html('Average ' + $(this).html());

});

$(".simple"

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Python可以使用BeautifulSoup或者Scrapy等库来爬取Canvas标签数据。首先需要了解Canvas标签的结构和属性,然后使用Python代码来解析HTML文档,提取出Canvas标签的内容和属性。可以使用requests库来获取网页内容,然后使用BeautifulSoup或者Scrapy等库来解析HTML文档,提取出Canvas标签的内容和属性。最后可以将提取出来的数据保存到本地文件或者数据库中。 ### 回答2: CanvasHTML5中一种新的元素类型,可以使用JavaScript在上面绘制图形和动画等。在网站中,Canvas标签常常被用来显示图表、地图等交互式页面元素。对于爬虫程序员而言,如果需要获取这些交互式页面元素的数据,就需要借助一些特殊的技巧。 那么,如何用Python爬取Canvas标签数据呢?以下是一些方法: 1. 使用Selenium自动化测试工具 可以使用Selenium自动化测试工具来对页面进行模拟操作,从而获取Canvas标签产生的数据。Selenium可以模拟人类在浏览器中的点击、输入等交互操作,通过JavaScript代码,将Canvas数据转化为一个URI,然后用Python程序读取此URI即可。 2. 使用PhantomJS无头浏览器 PhantomJS是一个不需要图形显示界面的浏览器,它可以在后台执行JavaScript代码并将其转化为UI层。与Selenium相似,使用PhantomJS也可以模拟浏览器的操作,但是相比Selenium更加轻量级,速度更快。 3. 直接解析HTML源代码 可以直接解析HTML源代码,找到Canvas标签所对应的JavaScript代码,通过分析代码获取Canvas数据。这种方法需要爬虫程序员对JavaScript较好的理解,同时也需要对HTML源代码进行一定的编码处理。 无论采用哪种方式,都需要一定的爬虫编程技能和对Canvas标签及JavaScript的理解。同时,爬取数据也需要注意一些法律法规问题,不能侵犯他人隐私和知识产权等相关规定。 ### 回答3: Python 爬取 Canvas 标签数据的过程需要经过以下步骤: 1. 安装相关 Python 库和工具 我们需要使用 Python 的第三方库 requests 安装,以及使用 Chrome 浏览器的开发者工具来查看 Canvas 标签的 XHR 数据。 2. 获取 Canvas 标签的标识 token 首先,我们需要获取 Canvas 标签的标识 token,这个 token 和用户身份是相关的,所以需要登录 Canvas 后才能获取到。具体获取方式是在 Chrome 浏览器中登录 Canvas 后,按 F12 进入开发者模式,进入 Network 面板,筛选 XHR 请求类型,找到包含 token 的请求,即可获取到 token。 3. 模拟登录并获取数据 接下来,我们使用 requests 库来模拟登录,获取 Canvas 数据。代码示例如下: ```python import requests # 你的 Canvas 帐号和密码 email = '' password = '' # Canvas 的 URL 和 token url = '' token = '' # 模拟登录 session = requests.Session() login_url = f'{url}/login/canvas' session.post(login_url, data={ 'pseudonym_session[unique_id]': email, 'pseudonym_session[password]': password, 'authenticity_token': token }) # 进行其他操作,如获取数据 response = session.get(f'{url}/courses/xxxx/modules/yyyy/items/zzzz') ``` 4. 解析数据 我们可以使用 Python 的第三方库 BeautifulSoup 来解析 CanvasHTML 数据,或使用 requests 库自带的解析工具来解析 JSON 数据。根据具体需要来选择解析方式。 5. 注意事项 在使用 Python 爬取 Canvas 标签数据时,需要注意不要过度频繁地访问 Canvas 网站,以免被认为正在进行恶意攻击。此外,还需要注意个人隐私和数据安全,不要泄露其他用户的个人信息。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值