sqlite 数据量_向SQLite批量导入csv,txt数据

当需要将大量csv或txt数据导入SQLite时,传统的pandas和SQLiteStudio方法效率低下。本文介绍使用SQLite.exe命令行工具进行高效导入,包括删除表、更改分隔符等步骤,确保数据正确导入。
摘要由CSDN通过智能技术生成

将csv或者txt格式的文件导入SQLite一般有两种方式:

  • 使用pandas.readcsv()读取后,用to_sql方法写入数据库
  • 使用SQLiteStudio创建表格,再导入数据

但是这两种方法在数据量比较大的时候会非常慢,这里提供一种使用官网提供的SQLite.exe命令行的方式

  1. 下载SQLite.exe
SQLite Download Page​sqlite.org

eae9af217784a63f9f3ac377c6526498.png

下载解压即可

2. 把SQLite.exe和需要导入的csv,txt复制到数据库所在文件夹

3. 运行SQLite.exe

sqlite> .open database.db   #打开数据库
sqlite> .database    #用于验证:显示目前连接的数据库路径
         main: D:python testSQLiteDBdatabase.db

sqlite> .table    #用于验证:显示这个数据库有哪些表格
         tableA

sqlite> .separator ","  #指定分隔符为","
sqlite> .import importdata.txt tableA   # .import FileName TableName

删除表:drop table tableName

Notice:

如果需要导入的表的单元格内容里面包含分隔符","或者"/t", 会导致导入失败,需要设置一个不常见的分隔符如";"

6a8a03987c1c269bf5f214af6f236c66.png

修改列表分隔符为你想要的符号之后(;), 选择excel的导出功能,导出为csv(逗号分隔), 此时导出的文件就是采用";"分隔符的了

再次使用上面的命令行,指定.separator ";"

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值