在数据分析中,经常涉及numpy中的ndarray对象与pandas的Series和DataFrame对象之间的转换,让一些开发者产生了困惑。本文将简单介绍这三种数据类型,并以金融市场数据为例,给出相关对象之间转换的具体示例。
ndarray数组对象
NumPy中的ndarray是一个多维数组对象,该对象由两部分组成:
实际的数据;
描述这些数据的元数据。
大部分的数组操作仅仅修改元数据部分,而不改变底层的实际数据。NumPy数组一般是同质的(但有一种特殊的数组类型例外,它是异质的),即数组中的所有元素类型必须是一致的。这样有一个好处:如果我们知道数组中的元素均为同一类型,该数组所需的存储空间就很容易确定下来。
我们举一个简单的多维数组的例子。在这里,我们使用Numpy提供的arange函数来来方便的创建一维数组,其函数原型为arange([start,] stop[, step,], dtype=None)。可以指定起始值、结束值、步长及数据类型参数,这里步长参数为整数值。如果要使用非整数值的步长,可以考虑使用linespace函数。通过reshape()函数将一维数组转换为多维数组。
![7867af6bb22ecf1a28eefcd48492a63a.png](https://i-blog.csdnimg.cn/blog_migrate/53eb160e71cac3f5de945db69d326382.jpeg)
多维数组的操作也非常简单,可以参考list类型对数组进行访问、切片操作。比较重要的是可以通过shape属性获取数组的维数。
我们也可以通过多维数组来标识异构的数据类型,以股票价格数据为例,通过dtype类来定义数据类型对象stock, 其包括日期、开盘价、收盘价、最高价、最低价、成交量及股票编码信息:
![e4d0525b27c395aeadd3b74f58c1da63.png](https://i-blog.csdnimg.cn/blog_migrate/f1da6cf13d7cf47252d78c42c3616cb5.jpeg)
不过在实际应用中,我们很少使用ndarray来定义异构的数据类型,而是使用pandas中的Series和DataFrame来操作。
ndarray的性能优势
一、内存块风格:
这是因为ndarray中的所有元素的类型都是相同的,而Python列表中的元素类型是任意的,所以ndarray在存储元素时内存可以连续,而python原生lis就t只能通过寻址方式找到下一个元素,这虽然也导致了在通用性能方面Numpy的ndarray不及Python原生list,但在科学计算中,Numpy的ndarray就可以省掉很多循环语句,代码使用方面比Python原生list简单的多。
二、ndarray支持并行化运算(向量化运算)。
三、Numpy底层使用C语言编写,内部解除了GIL(全局解释器锁),其对数组的操作速度不受Python解释器的限制,效率远高于纯Python代码。
Series对象
从一般意义上来讲, Series 可以简单地被认为是一维的数组。Series 和一维数组最主要的区别在于 Series 类型具有索引( index )。Series支持从列表和字典创建,这里仅举以列表创建的例子:
![47360c9a29b016115c6066c543fa66b3.png](https://i-blog.csdnimg.cn/blog_migrate/724eb5fb647e6e505d88da91898089f9.jpeg)
输出结果为:
![02faa73e7c09b98a65cb82927dd1c71a.png](https://i-blog.csdnimg.cn/blog_migrate/b4cf630321fc979d5f4fdb577022e2fa.jpeg)
我们还可以将Series转换为ndarray类型:
![650875384310cd7b8bf97ff25fcf78f4.png](https://i-blog.csdnimg.cn/blog_migrate/a00d8eced23c4745d552c84879b68673.jpeg)
或者使用.values。
DataFrame对象
DataFrame 是将数个 Series 按列合并而成的二维数据结构,每一列单独取出来是一个 Series ,这和SQL数据库中取出的数据是很类似的。所以,按列对一个 DataFrame 进行处理更为方便,开发者在编程时注意培养按列构建数据的思维。DataFrame 的优势在于可以方便地处理不同类型的列,因此,就不要考虑如何对一个全是浮点数的 DataFrame 求逆之类的问题了,处理这种问题还是把数据存成NumPy的 matrix 类型比较便利一些。
我们仍用一个股票价格数据的例子,创建DataFrame对象,这里把日期提取出来作为index,同时指定了列名。
![6ce127e014ba91b96f5e0c49d9a2c0dc.png](https://i-blog.csdnimg.cn/blog_migrate/eb453c8c043e38d00d5dbe3b4c407e8a.jpeg)
![ec10561b7dbd38cc62797f2f0c26d2fd.png](https://i-blog.csdnimg.cn/blog_migrate/f3be23cd0579e1e048056439ec0e9250.jpeg)
这里,我们展示了4种方法将DataFrame转化为ndarray类型的方法。as_matrix()方法可以指定获取的列;values属性将使用所有的列转换为ndarray对象,等同于无参数的as_matrix();array()接受将DataFrame对象作为参数创建ndarray对象。to_numpy()也是将DataFrame转为ndarray对象。
— — — — — — E N D — — — — — —
真格量化可访问:
https://quant.pobo.net.cn
真格量化微信公众号,长按关注:
![1ff7c1ea359030512e895f434f27d0cd.png](https://i-blog.csdnimg.cn/blog_migrate/35f24c7652fc6fae07351bb24679df62.jpeg)
遇到了技术问题?欢迎加入真格量化Python技术交流QQ群 726895887
往期文章:
Numpy处理tick级别数据技巧
真正赚钱的期权策略曲线是这样的
多品种历史波动率计算
如何实现全市场自动盯盘
AI是怎样看懂研报的
真格量化策略debug秘籍
真格量化对接实盘交易
常见高频交易策略简介
如何用撤单函数改进套利成交
Deque提高处理队列效率
策略编程选Python还是C++
如何用Python继承机制节约代码量
十大机器学习算法
如何调用策略附件数据
如何使用智能单
如何扫描全市场跨月价差
如何筛选策略最适合的品种
活用订单类型规避频繁撤单风险
真格量化回测撮合机制简介
如何调用外部数据
如何处理回测与实盘差别
如何利用趋势必然终结获利
常见量化策略介绍
期权交易“七宗罪”
波动率交易介绍
推高波动率的因素
波动率的预测之道
趋势交易面临挑战
如何构建知识图谱
机器学习就是现代统计学
AI技术在金融行业的应用
如何避免模型过拟合
低延迟交易介绍
架构设计中的编程范式
交易所视角下的套利指令撮合
距离概念与特征识别
气象风险与天气衍生品
设计量化策略的七个“大坑”
云计算在金融行业的应用
机器学习模型评估方法
真格量化制作期权HV-IV价差
另类数据介绍
TensorFlow中的Tensor是什么?
机器学习的经验之谈
用yfinance调用雅虎财经数据
容器技术如何改进交易系统
Python调用C++
如何选择数据库代理
统计套利揭秘
一个Call搅动市场?让我们温习一下波动率策略
如何用真格量化设计持仓排名跟踪策略
还不理解真格量化API设计?我们不妨参考一下CTP平台
理解同步、异步、阻塞与非阻塞
隐波相关系数和偏度——高维风险的守望者
Delta中性还不够?——看看如何设计Gamma中性期权策略
Python的多线程和多进程——从一个爬虫任务谈起
线程与进程的区别
皮尔逊相关系数与历史K线匹配
Python2和Python3的兼容写法
Python代码优化技巧
理解Python的上下文管理器
如何写出更好的Python代码?这是Python软件基金会的建议
评估程序化模型时我们容易忽视的指标
看看如何定位Python程序性能瓶颈
什么是Python的GIL
投资研究中的大数据分析趋势及应用
理解CTP中的回调函数
如何围绕隐含波动率设计期权交易策略
看看如何用Python进行英文文本的情感分析
算法交易的分类
Python编码的最佳实践总结
什么是波动率锥?如何用波动率锥设计期权策略?
期权的波动率策略与时间价值收集策略对比
期权用于套期保值和无风险套利
隐含波动率对期权策略的影响
卖出期权交易的风险管理原则和技巧
期权交易中的“大头针”风险
期权做市商策略简介
精细化您的交易——交易成本评估与交易执行策略
海外市场交易执行策略的实践
设计期权套期保值方案时应注意的问题
美式期权、欧式期权比较分析——定价与风险管理
构建您的AI时代武器库——常用的机器学习相关Python库
期权波动率“微笑曲线”之谜
运算任务愈发繁重,如何加速Python程序运行?
证券市场微观结构理论模型是什么
是瞬间成交还是漫长等待?——如何衡量市场流动性
波动率指数及其衍生品介绍
Python的异常处理技巧
Python中的阻塞、异步与协程
"香草"之外的更多选择——几种常见的路径依赖奇异期权
什么是CTP?——了解上期所CTP快速交易系统
了解季节性——以谷物和油籽为例
是前因还是后果?——在真格量化中进行格兰杰因果检验
Python导入模块的技巧
Python程序员常犯的十个错误
搜索数据泄露天机?——舆情指数与期货行情关联性分析思路
机器学习常见算法分类汇总
如何使用Data Pipeline 自动化数据处理工作?
CTP API的委托介绍和在真格量化中的订单流控制
高频交易对市场的影响
期货行情及其组织形式——以上期所为例
理解并行与并发
郑商所和大商所套利指令及在真格量化的实现
机器学习用于金融市场预测面临的挑战
高频交易中风险控制的常用措施
查询结果偏离预期?来了解CTP的报单函数及委托状态查询
Python中的ftplib模块
理解真格量化的Python编程范式
需要处理大量市场数据?来了解一下MySQL、HBase、ES的特点和应用场景