python如何做一个数据库_如何建立一个自己的金融数据库

本次文章的内容均转载于我的个人微信公众号

有兴趣的同学可以关注一下!

我将本次教程分为七个部分:准备工作

远程连接服务器以及配置MySQL

FTP的配置工作

anaconda2.7的下载与配置

创建数据库

写出Python文件

上传服务器并配置

一、准备工作

环境要求:Linux操作系统服务器

MySQL数据库

anaconda2.7

Xshell5

filezilla

Navicat 12 for MySQL

首先第一个要求可能比较麻烦,毕竟服务器这种听起来很“高端”的“设备”。大家可能接触的并不多,但现在因为各类云服务器商的出现,普通人也可以很轻松的接触到服务器了,目前大家可以去租目前市面上几个大厂的学生机,价格也不是很贵,自己的电脑我觉得很难做到一天24小时一直保持开机,但是服务器完全可以很长一段时间不关机。而在系统方面,为什么不选择大家比较熟悉的Windows呢?(服务器的Windows一般是Windows Sever系统,这个和大家用的Windows系统还是有些区别的),因为学生机一般配置比较差,如果带Windows系统会比较吃力,远程连接操作起来也比较麻烦,而且目前我还没有找到一款可以在移动端可以方便远程连接Windows的软件(远程连接对于网速要求比较高),对于我们的管理非常不方便。而Linux系统大家可能比较陌生,大家在选择服务器系统的时候,可能会发现似乎没有一个叫做Linux系统的系统,但是可以看到Ubuntu,centos,deepin,debian等,这些都属于Linux操作系统,是Linux的发行版本,具体的关系解释大家可以自己去百度,这里比较推荐centos6或centos7。

二、远程连接服务器以及配置MySQL

在大家配置好服务器以后,就可以使用上面提到的Xshell5软件(可去官网下载免费学生版)来远程连接我们的服务器了,连接也比较简单,在主机处输入自己服务器的公网IP

图1:xshell5配置界面

然后点击用户身份验证,用户名一般为root,密码为自己在开通服务器时设定的密码,然后确定连接即可。如果连接成功则会出现如下图:

图2:服务器SSH成功

此时证明我们已经成功的连接上了我们的服务器,接下来具体配置服务器的工作,大家可以参考

中有关MySQL配置的部分和刚开始的防火墙部分(此部分很重要,如果没有配置会影响到后续的远程连接!!!),写得很详细。配置好MySQL和防火墙以后,我们的服务器上就有了自己的数据库了。

三、FTP的配置工作

这一步其实是一个非必须的步骤,因为大家大可以直接在服务器上直接开始写我们的获取数据的代码,但是考虑到大家对于Linux的熟悉程度以及对于Linux系统上编辑器Vim的使用可能不怎么熟练,所以还是选择利用FTP作为载体,将我们在本地写好的py文件直接上传至我们的服务器,不过这样做修改和调试会比较麻烦,所以建议有时间的同学还是自学一下Linux系统,对于量化来说,掌握Linux我觉得还是比较重要的,关于Linux系统里FTP的配置工作,大家可以参考这篇

里面对于Linux如何配置FTP讲的非常详细。等我们在服务器上配置好vsftp,这是后我们就可以通过filezilla这个软件来远程连接我们的FTP。

图3:配置filezilla

在主机处输入服务器公网ip,用户名为刚才设置的FTP用户名,密码为刚才设置的密码,端口可不填,若连接失败,可使用22端口重试。如果连接成功,在软件右侧应该会出现服务器目录。

图4:服务器目录

此时说明我们连接成功。

四、anaconda2.7的下载与配置

如果大家按照上文中给出的链接中的教程配置MySQL或FTP等,就会发现在Linux下安装软件和Windows区别很大,一般通过yum源来安装(有点类似IOS的App Store),但是anaconda需要通过自己手动去下载安装,我这里直接给出命令:

大家直接在命令行中粘帖即可,然后回车运行即可,下载完成后,命令行中敲入Anaconda2-5.1.0-Linux-x86.sh按照提示安装即可。然后在命令行中使用pip 命令安装tushare、schedule这两个包即可,忘了如何使用pip命令的同学可以参考下前面的教程,Linux下不需要像Windows那样需要将pip.exe拖入cmd,而是直接在命令行里输入pip install即可。此时我们的Python环境基本配置完毕。

五、创建数据库

这里我们要用到Navicat 12 for MySQL这个软件,这是目前来说最好用的数据库可视化软件之一,打开以后点击左上角的连接,选择MySQL,后出现:

图5:配置Navicat 12 for MySQL

连接名大家可以随意取,将主机改为服务器公网IP,端口不需要改密码输入MySQL的密码即可远程连接,连接成功后可以看到在软件左侧

图6:数据库

这一排都是数据库(图中大部分是我自己创建的),大家可以右键新建一个数据库,数据库的名字可以自己取,但是为了不必要的麻烦,最好是大写英文,其他参数参考:

图7:配置Navicat 12 for MySQL

到此我们可以利用Navicat 12 for MySQL来管理我们的数据库了,以后大家熟悉以后可以在服务期内直接管理。

六、写出Python文件

到这一步服务器的工作可以告一段落了,接下来我们在本地打开pycharm,新建一个py文件,然后import这几项:

图8:引用

前面的小教程里我们都是直接写的,并没有涉及到函数的概念,这一次因为还要牵扯到在服务器上定时运行,所以我们这次不能将获取数据的命令直接写出来,而是要先写出一个函数,关于Python中函数的介绍,并不是我们这次的重点,以后可以在Python中单独讲一下,这次只要会用即可,举一个例子:

图9:构造函数

这就是我们创建一个函数的过程,创建了daystock(函数名可以自己取,但不要使用Python的内置函数)这个函数,这个函数的功能就是获取每日交易的股票的当日行情(马赛克部分是我的服务器地址和数据库密码,不是重点~)第二行大家应该比较熟悉,就是tushare包中获取当日交易股票日行情的命令,第三行与我们以前讲过的存储为Excel文件的有所不同,这里第三行为远程连接数据库的一行代码,具体用法为:

engine=create_engine('mysql://root:数据库密码@服务器公网IP/数据库名?charset=utf8')

这行命令中,大家其他都不需要改,只需要将我填入中文的部分修改为自己的内容即可,数据库名即为刚才大家在第五步中创建的数据库名称。

第四行为获取当天的日期,并以XXXX-XX-XX的格式保存为todaytime变量,第五行为保存的命令,括号内第一个变量为命名数据名称,在此我建议以日期作为名字。

大家可以按照上述构建函数的方法来写其他函数,获取日更新的数据,方法基本都相同,其他获取的命令可以参考以前的教程或者tushare作者自己的介绍网站。接下来就是设置每天运行的内容了,可以利用schedule这个模块,我们目的是让程序每个工作日在晚上十一点时自动运行我们获取数据的函数,将所有数据保存在数据库里,代码为

图:10:构造job函数

第一行为写一个job函数,内容为我们刚才写的函数,因为例子中我只写了一个daystock的函数,所以只有一个,大家自己做的时候可以将自己写的其他函数加在里面(不要忘记括号),其他的按照上面写的即可。

七、上传服务器并配置

将刚才写好的py文件利用filezilla上传至服务器根目录,例如我们的文件名为test.py,然后在xshell5的命令行中输入 ls 命令查找是否存在test.py文件,若不存在则需要找到刚才通过ftp上传的位置 然后利用 cd命令进入该目录,然后 利用ls 命令查找,查找到目标文件后,我们为了使服务器在断开ssh后依然可以运行程序而不是杀死进程,这里要使用到一个叫做 screen 的工具,在命令行内输入下面命令:

yum install screen

然后回车并等待提示输入y/N,输入y后等待安装完成后,在命令行输入screen 后,可以看到进入到一个新的命令行界面,在新的命令行界面进入py文件所在的目录,然后 输入命令(例如py文件名为test.py):

python test.py

然后按下 Ctrl+A 后再 按下 D 键,此时会出现 [detached] 如下:

图11:输出结果

此时说明我们的程序已经在后台挂起,此时可以关闭xshell5且不会杀死进程,。

到此,我们的金融数据库基本就大功告成啦,大家可以利用Navicat 12 for MySQL来查看获取的数据,如果Linux命令比较熟悉的话,可以直接在手机上远程连接服务器进行查看(此时Linux的优势开始凸显!!!),是不是感觉还挺简(chao)单(nan)的,现在我们有了数据,但是原始的数据对于我们来说,还是不够,我们还需要进行进一步的数据处理,所以在此做个下期预告,下一次我们将来利用服务器把每天的数据定时自动进行处理计算,并返回结果储存到数据库中,有兴趣的同学可以关注一下我的个人公众号喔!!!

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
数据库的名字叫WawaDB,是用python实现的。由此可见python是灰常强大啊! 简介 记录日志的需求一般是这样的: 只追加,不修改,写入按时间顺序写入; 大量写,少量读,查询一般查询一个时间段的数据; MongoDB的固定集合很好的满足了这个需求,但是MongoDB占内存比较大,有点儿火穿蚊子,小题大的感觉。 WawaDB的思路是每写入1000条日志,在一个索引文件里记录下当前的时间和日志文件的偏移量。 然后按时间询日志时,先把索引加载到内存中,用二分法查出时间点的偏移量,再打开日志文件seek到指定位置,这样就能很快定位用户需要的数据并读取,而不需要遍历整个日志文件。 性能 Core 2 P8400,2.26GHZ,2G内存,32 bit win7 写入测试: 模拟1分钟写入10000条数据,共写入5个小时的数据, 插入300万条数据,每条数据54个字符,用时2分51秒 读取测试:读取指定时间段内包含某个子串的日志 数据范围 遍历数据量 结果数 用时(秒) 5小时 300万 604 6.6 2小时 120万 225 2.7 1小时 60万 96 1.3 30分钟 30万 44 0.6 索引 只对日志记录的时间索引, 简介里大概说了下索引的实现,二分查找肯定没B Tree效率高,但一般情况下也差不了一个数量级,而且实现特别简单。 因为是稀疏索引,并不是每条日志都有索引记录它的偏移量,所以读取数据时要往前多读一些数据,防止漏读,等读到真正所需的数据时再真正给用户返回数据。 如下图,比如用户要读取25到43的日志,用二分法找25,找到的是30所在的点, 索 引:0 10 20 30 40 50 日志:|.........|.........|.........|.........|.........|>>>a = [0, 10, 20, 30, 40, 50]>>>bisect.bisect_left(a, 35)>>>3>>>a[3]>>>30>>>bisect.bisect_left(a, 43)>>>5>>>a[5]>>>50 所以我们要往前倒一些,从20(30的前一个刻度)开始读取日志,21,22,23,24读取后因为比25小,所以扔掉, 读到25,26,27,...后返回给用户 读取到40(50的前一个刻度)后就要判断当前数据是否大于43了,如果大于43(返回全开区间的数据),就要停止读了。 整体下来我们只操作了大文件的很少一部分就得到了用户想要的数据。 缓冲区 为了减少写入日志时大量的磁盘写,索引在append日志时,把buffer设置成了10k,系统默认应该是4k。 同理,为了提高读取日志的效率,读取的buffer也设置了10k,也需要根据你日志的大小适当调整。 索引的读写设置成了行buffer,每满一行都要flush到磁盘上,防止读到不完整的索引行(其实实践证明,设置了行buffer,还是能读到半拉的行)。 查询 啥?要支持SQL,别闹了,100行代码怎么支持SQL呀。 现在查询是直接传入一个lambada表达式,系统遍历指定时间范围内的数据行时,满足用户的lambada条件才会返回给用户。 当然这样会多读取很多用户不需要的数据,而且每行都要进行lambda表达式的运算,不过没办法,简单就是美呀。 以前我是把一个需要查询的条件和日志时间,日志文件偏移量都记录在索引里,这样从索引里查找出符合条件的偏移量,然后每条数据都如日志文件里seek一次,read一次。这样好处只有一个,就是读取的数据量少了,但缺点有两个: 索引文件特别大,不方便加载到内存中 每次读取都要先seek,貌似缓冲区用不上,特别慢,比连续读一个段的数据,并用lambda过滤慢四五倍 写入 前面说过了,只append,不修改数据,而且每行日志最前面是时间戳。 多线程 查询数据,可以多线程同时查询,每次查询都会打开一个新的日志文件的描述符,所以并行的多个读取不会打架。 写入的话,虽然只是append操作,但不确认多线程对文件进行append操作是否安全,所以建议用一个队列,一个专用线程进行写入。 锁 没有任何锁。 排序 默认查询出来的数据是按时间正序排列,如需其它排序,可取到内存后用python的sorted函数排序,想怎么排就怎么排。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值