数据库系列_shell脚本连接postgresql并操作数据库

   以前抽数据都是重其他数据库抽取到postgres数据库的所以选择kettle。新项目需求里需要把客户给的csv文件数据抽到postgresql,其中还需要对相关字段进行清洗。先声明下kettle也可以实现,但是总感觉依赖第三方软件抽数据不如直接操作数据库,除非逼不得已,尽量不用(纯属个人见解)。于是就研究linux直接连接数据库处理这部分需求。代码如下

#!/bin/bash
# *****************************************************
# ** linux_schedule_test
# *****************************************************

#\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'UTF8';
# copy test_copy to 'D:\test_copy1.csv' delimiter ',' csv header encoding 'GBK';

export PATH=/usr/pgsql-10/bin:/usr/bin;

psql "host=127.0.0.1 port=5434 user=admin  password=123456 dbname=linux_schedule_test" << EOF #2>/dev/null

\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'GBK';

create table test$(date +%Y%m%d_%H%m%S) as select * from test;

\q
EOF

export PATH=/usr/pgsql-10/bin:/usr/bin :因为环境作用域问题,最好在脚本开始处将要用到的命令添加PATH路径。

psql "host=127.0.0.1 port=5434 user=admin  password=123456 dbname=linux_schedule_test" :连接数据库

<< EOF : 通过重定向,停留在psql客户端。

#2>/dev/null 脚本出错不输出,调试时建议注释掉,不然都不知道脚本为什么没有跑。

\copy test from '/etl-script/test.csv' delimiter ',' csv header encoding 'GBK';:通过copy命令抽取csv文件数据。

create table test$(date +%Y%m%d_%H%m%S) as select * from test;:备份test表数据,测试用的。

\q:退出psql。这个不写也可以最后的EOF也会接受psql客户端的。

EOF:结束重定向。

  • 6
    点赞
  • 32
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
### 回答1: 可以使用psql命令行客户端来连接PostgreSQL,具体步骤如下:1. 在shell脚本中定义必要的变量,如数据库名称、用户名和密码,连接字符串等。 2. 使用psql命令行客户端登录远程PostgreSQL服务器,如下所示:psql -h HOST -U USERNAME -d DATABASE -W3. 在登录后,可以执行SQL语句来操作PostgreSQL数据库。 ### 回答2: 举例: 假设我们要连接到一个名为"mydatabase"的远程PostgreSQL数据库,并执行一条查询语句,将结果保存到一个文件中。我们可以使用以下shell脚本来实现: ```bash #!/bin/bash # 定义连接参数 host="remote_host" # 远程主机地址 port="5432" # 远程主机端口 database="mydatabase" # 数据库名称 user="myuser" # 数据库用户名 password="mypassword" # 数据库密码 # 定义查询语句和输出文件 query="SELECT * FROM mytable;" output_file="output.txt" # 连接并执行查询 psql -h $host -p $port -d $database -U $user -c "$query" > $output_file # 输出结果 echo "查询结果已保存到文件:$output_file" ``` 在这个例子中,我们使用了psql命令来连接到远程PostgreSQL数据库,并执行了一条查询语句。通过设置`-h`和`-p`参数来指定远程主机地址和端口,`-d`参数指定要连接数据库名称,`-U`参数指定登录用户名,`-c`参数指定要执行的SQL语句。最后,通过将输出重定向到一个文件来保存查询的结果。 请注意,为了安全起见,建议将密码以安全的方式存储,而不是硬编码在脚本中。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值