python接收广播_有效处理市场广播数据并使用python进行处理

该博客讨论了一个应用程序,该程序每秒接收200个市场广播数据。作者面临的主要挑战是创建1分钟、5分钟和15分钟的蜡烛图以及实时值比较。当前方法使用pandas数据帧和groupby操作,导致每根蜡烛形成耗时近1秒。作者考虑使用HDF5和dask进行数据存储和处理,寻求优化建议。提供的代码展示了如何使用pandas创建蜡烛图的过程。
摘要由CSDN通过智能技术生成

这似乎是一个广泛的问题,但它是准确的,我想实现,所以请阅读它。

我正在构建一个连接到市场广播的应用程序,并订阅了近200张纸条进行广播。每一个脚本每秒接收一次广播。

现在在应用程序中,我想实现两件事:

收集广播,制作1分钟、5分钟、15分钟蜡烛等。

将某些scrip的直播值与预定义值进行比较。

我试过不同的方法来解决这个问题,但只有一种方法显示出最好的效果。即使这不是期望的结果。

我目前的做法:

main.py----->Process----

|

|

------------

| |

broadcast candle

broadcast

我拿到广播,点上1分钟的蜡烛,把它通过

Pipe()

连接到蜡烛。在

candle

问题:

每一个符号/每根蜡烛的形成需要将近一秒钟的时间。我用

pandas

数据帧,用于存储数据,然后

groupby()

形成蜡烛的操作。

没有广播比较的余地。

我想用HDF5来存储数据,用dask来处理数据,但这值得吗?(我从未在HDF5/dask上工作过)。

欢迎提出任何建议。谢谢!

这是我根据所需频率制作蜡烛的代码。

请注意,在我从主数据帧分割scrip数据之后,它会为每个scrip调用。

def __create_minutes_candles(self, data=None, freq=None, latest=True):

start_time = time()

data = data if isinstance(data, pd.DataFrame)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值