如何将JSON, Text, XML, CSV数据文件导入MySQL

最新推荐文章于 2024-08-21 13:51:08 发布

VonRyan

最新推荐文章于 2024-08-21 13:51:08 发布

阅读量980

点赞数

分类专栏： database json 文章标签： mysql xml 数据库 json 数据

本文链接：https://blog.csdn.net/VonRyan/article/details/49558197

版权

本文介绍了如何将JSON, Text（包括CSV）, XML数据文件导入MySQL，包括使用LOAD DATA INFILE、common-schema、mysqljsonimport等方法。详细讲解了每个方法的步骤和注意事项，适合需要进行数据导入的数据库管理员和开发者参考。" 114785367,10544157,使用Java将CSV转换为DBF文件,"['数据转换', 'CSV处理', '数据库', 'Python库']

摘要由CSDN通过智能技术生成

文/freenik

将外部数据导入(import)数据库是在数据库应用中一个很常见的需求。其实这就是在数据的管理和操作中的ETL (Extract, transform, load)的L (Load)部分，也就是说，将特定结构(structure)或者格式(format)的数据导入某个目的地(比如数据库，这里我们讨论MySQL)。

ETL Process

本文要讨论的内容，是如何方便地将多种格式(JSON, Text, XML, CSV)的数据导入MySQL之中。

本文大纲：

将Text文件（包括CSV文件）导入MySQL
将XML文件导入MySQL
将JSON文件导入MySQL
使用MySQL workbench的Table Data Export and Import Wizard进行JSON或CSV文件的导入导出

1. 将Text文件（包括CSV文件）导入MySQL

这里我们的讨论是基于一个假定，Text file和CSV file是有着比较规范的格式的(properly formatted)，比如说每行的每个数据域(field)之间是由一个共同的分隔符（比如tab: \t）分隔的。

那么首先，你需要根据你的数据的格式（有哪些域），来设计好数据库的对应的表（的Schema）。

举个例子，要处理的Text文件或者CSV文件是以\t作为分隔符的，每行有id, name, balance这么三个数据域，那么首先我们需要在数据库中创建这个表：

CREATE TABLE sometable(id INT, name VARCHAR(255), balance DECIMAL(8,4));

创建成功以后就可以导入了。操作方式很简单：

LOAD DATA LOCAL INFILE '你的文件路径（如~/file.csv）' INTO TABLE sometable FIELDS TERMINATED BY '\t' [ENCLOSED BY '"'(可选)] LINES TERMINATED BY '\n' (id, name, balance)

这里要注意的是，我们需要开启local-infile这个MySQL的配置参数，才能够成功导入。究其原因，从MySQL的Manual中可以看到这么一段话：

LOCAL works only if your server and your client both have been configured to permit it. For example, if mysqld was started with –local-infile=0, LOCAL does not work. See Section 6.1.6, “Security Issues with LOAD DATA LOCAL”.

这是MySQL出于安全考虑的默认配置。因此，我们需要在配置文件my.cnf中（以Debian发行版的Linux, 如Ubuntu为例，即是在/etc/my.cnf中），确保：

local-infile=1

抑或是在命令行启动MySQL时加上