【dbt】使用seed导入csv文件

本文介绍了如何使用dbt的seed功能将.csv文件导入到Postgres数据库中,包括指定schema和字段类型。首先,通过jafgen生成测试数据,然后将数据移动到dbt项目的seeds目录。执行`dbtseed`命令导入数据到默认或指定的schema,同时展示了如何在dbt-project.yml中配置字段类型。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

在做数据准备时,偶而也会遇到有.csv文件需要读取的情况,dbt提供seed功能读取.csv文件到数据库。读取后的表,可以使用ref()方法引用。

测试环境

  • dbt 1.5
  • 数据库:Postgres 14

准备测试数据

可以使用自己准备的测试.csv文件。也可以使用 jafgen 包来生成测试数据:

  1. 执行pip install jafgen 命令安装jafgen
  2. 安装完成后,执行 jafgen --years 1 会在当前目录下的jaffle-data目录生成一年的测试数据,包括:
    • raw_customers.csv 客户ID和名称
    • raw_items.csv 商品SKU和order_id关联
    • raw_orders.csv 订单时间、门店ID、总额等
    • raw_products.csv 产品价格和描述
    • raw_stores.csv 门店信息
    • raw_supplies.csv 供应信息
  3. jaffle-data 目录及文件 copy<dbt-project>/seeds/ 目录下。

直接导入数据库

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值