TPC-H数据导入postgresql教程

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/zhoujl25/article/details/51067230

POSTGRESQL TPC-H测试

postgresql & tpc-h(dbgen)

TPC-H是TPC提供的一个benchmark,用来模拟一个现实中的商业应用,可以生成一堆虚构的数据,且自带一些查询,可以导入到各种数据库中来模拟现实需求,检查性能。

具体是怎样的数据见:http://www.tpc.org/tpch/spec/tpch2.16.0.pdf

1、做实验之前的配置

a、首先在mac下安装postgresql
终端命令
brew install postgresql -v
若出现Error: Cannot write to /usr/local/Cellar
可以输入以下命令进行解决
sudo chown -R $USER /usr/local

b、接着下载dbgen
在这个网站上下载
https://github.com/electrum/tpch-dbgen
解压后在根目录找到makefile.suite 进行修改
把103~112行左右改成这个样子

CC      = GCC
# Current values for DATABASE are: INFORMIX, DB2, TDAT (Teradata)
#                                  SQLSERVER, SYBASE, ORACLE
# Current values for MACHINE are:  ATT, DOS, HP, IBM, ICL, MVS, 
#                                  SGI, SUN, U2200, VMS, LINUX, WIN32 
# Current values for WORKLOAD are:  TPCH
DATABASE= SQLSERVER
MACHINE = LINUX
WORKLOAD = TPCH
#

c、 接着在终端访问至该文件的根目录
输入make 就会发现该文件有dbgen文件生成
这里写图片描述

d、在终端输入命令
./dbgen -s 1 -f
就会发现在文件夹下有tbl文件生成,其数据如下
这里写图片描述

2、创建数据库:
这里启动和关闭数据库的命令在mac的终端下运行,linux没试过
启动PostgreSQl
pg_ctl -D /usr/local/var/postgres -l /usr/local/var/postgres/server.log start

关闭 PostgreSQL:
pg_ctl -D /usr/local/var/postgres stop -s -m fast

创建一个 PostgreSQL 用户
createuser username -P
Enter password for new role:
Enter it again:
上面的 username 是用户名,回车输入 2 次用户密码后即用户创建完成。更多用户创建信息可以 “createuser –help” 查看。

创建数据库
createdb dbname -O username -E UTF8 -e
上面创建了一个名为 dbname 的数据库,并指定 username 为改数据库的拥有者(owner),数据库的编码(encoding)是 UTF8,参数 “-e” 是指把数据库执行操作的命令显示出来。

更多数据库创建信息可以 “createdb –help” 查看。

连接数据库
psql -U username -d dbname -h 127.0.0.1

3、创建表, tpc-h表的模式存储在dss.dll的文件上,用文本编辑器打开
这里写图片描述

在创建的数据库中一一创建,创建出8张表
这里写图片描述
输入\dt 查看所有表是否创建成功
这里写图片描述

4、载入数据

注意!!!
需要先载入数据再进行添加主键和外键,否则添加主键、外键之后,再插入数据,无法插入,因为无法获得外键数据。
tbl生成的文件无法自动转化成postgresql需要的数据,需要修改,将每一行最后一个’|’去掉才能转化

原因英文资料上是这样写的
PostgreSQL requires that the delimiter should not appear at the end of every line
Postgresql数据库不允许最后有分隔符出现

#include <iostream>
#include <fstream>
#include <string>
using namespace std;
int main(int argc, const char * argv[]) {
    string s;
    ifstream in;
    in.open("lineitem.tbl");
    ofstream out;
    out.open("lineitem1.tbl");
    if (in.is_open()) {
        while (getline(in, s)) {
            int len = s.length();
            int i = len-1;
            //将最后一个竖号去掉才能满足postgresql的数据读取
            if (s[i] == '|') 
                s[i] = '\n';
            out << s;
        }
    }
    out.close();
    return 0;
}

如此修改文件名执行8次生成tbl文件
这里写图片描述

接着从数据库中载入数据
这里写图片描述

5、添加外键、主键
载入数据后,就可以添加外键、主键
对每张表添加外键、主键,修改tpch-dbgen文件夹中的dss.ri(用文本编辑器打开),将dss.ri所有添加外键和主键的信息都按照以下修改,并注释掉图上的connect to tpcd
这里写图片描述
这里写图片描述
如果是在linux下要先输入命令
sudo su 用户名
开启数据库
在mac下启动数据库
pg_ctl -D /usr/local/var/postgres -l /usr/local/var/postgres/server.log start
接着在终端执行命令 psql -f 文件路径 数据库名称

这里写图片描述
就完成了
查看表中的信息是否修改
这里写图片描述

参考链接:
http://m.oschina.net/blog/308688
http://www.itpub.net/forum.php?mod=viewthread&action=printable&tid=1422291

阅读更多

没有更多推荐了,返回首页