使用bash将csv文件数据读写到MySQL数据库的脚本之一

情景：

有一个包含多个系的学生详细信息的csv文件，需要将文件的内容插入到一个数据表中，保证每一个系生成一个单独的排名列表。

学习信息表 studentdata.csv 文件的数据如下：

点击(此处)折叠或打开

1. 1,Navin M,98,CS
   
2. 2,Kavya N,70,CS
   
3. 3,Nawaz O,80,CS
   
4. 4,Hari S,80,EC
   
5. 5,Alex M,50,EC
   
6. 6,Neenu J,70,EC
   
7. 7,Bob A,30,EC
   
8. 8,Anu M,90,AE
   
9. 9,Sruthi,89,AE
   
10. 10,Andrew,89,AE

脚本思路：

这个问题有两种处理思路，从shell脚本的角度看，可以用sort,awk等bash工具解决，也可以用一个sql数据库的数据表也可以解决。

下面需要编写3个脚本，分别用于创建数据库及数据表、想数据表中插入学生数据、从数据表中读取并显示处理过的数据。

注意：下面脚本中mysql数据连接的user，pass，socket等变量是我测试环境中的连接，在使用脚本时可以根据情况修改；
另外对于实际导入的csv格式和行数不同，可以对照进行脚本中的数据库名、表名、列名进行修改，这样这三个脚本就可以解决这一类问题了。

脚本一、创建数据库及数据表的脚本如下：

点击(此处)折叠或打开

1. #!/bin/bash
   
2. #filename : create_db.sh
   
3. #use : create mysql database and tables
   
4. 
   
5. USER="root"
   
6. PASS="123456"
   
7. SOCKET="/data/mysqldata/3306/mysql.sock"
   
8. 
   
9. mysql -u $USER -p$PASS -S $SOCKET <<EOF 2> /dev/null
   
10. create database students;
    
11. EOF
    
12. 
    
13. [ $? -eq 0 ] && echo Created DB || echo DB already exist
    
14. mysql -u $USER -p$PASS -S $SOCKET students <<EOF 2> /dev/null
    
15. create table students(
    
16. id int,
    
17. name varchar(100),
    
18. mark int,
    
19. dept varchar(4)
    
20. );
    
21. EOF
    
22. 
    
23. [ $? -eq 0 ] && echo Created table students || echo Table students already exist
    
24. 
    
25. mysql -u $USER -p$PASS -S $SOCKET students <<EOF
    
26. delete from students;
    
27. EOF

脚本二、将数据插入数据表的脚本如下：

点击(此处)折叠或打开

1. #!/bin/bash
   
2. #filename : write_to_db.sh
   
3. #use : read data from csv files and insert into mysql db
   
4. 
   
5. USER="root"
   
6. PASS="123456"
   
7. SOCKET="/data/mysqldata/3306/mysql.sock"
   
8. 
   
9. if [ $# -ne 1 ];
   
10. then
    
11.     echo $0 DATAFILE
    
12.     echo
    
13.     exit 2
    
14. fi
    
15. data=$1
    
16. 
    
17. while read line;
    
18. do
    
19.     oldIFS=$IFS
    
20.     IFS=,
    
21.     values=($line)
    
22.     values[1]="\"`echo ${values[1]} | tr ' ' '#' `\""
    
23.     values[3]="\"`echo ${values[3]}`\""
    
24. 
    
25.     query=`echo ${values[@]} | tr ' #' ', ' `
    
26.     IFS=$oldIFS
    
27.                                             
    
28.     mysql -u $USER -p$PASS -S $SOCKET students <<EOF
    
29. insert into students values($query);
    
30. EOF
    
31. 
    
32. done< $data
    
33. echo Wrote data into DB

脚本三、查询数据库的脚本如下：

点击(此处)折叠或打开

1. #!/bin/bash
   
2. #filename: read_db.sh
   
3. #use : read data from mysql db
   
4. 
   
5. USER="root"
   
6. PASS="123456"
   
7. SOCKET="/data/mysqldata/3306/mysql.sock"
   
8. 
   
9. depts=`mysql -u $USER -p$PASS -S $SOCKET students <<EOF | tail -n +2
   
10. select distinct dept from students;
    
11. EOF`
    
12. 
    
13. for d in $depts;
    
14. do
    
15. 
    
16. echo Department : $d
    
17. result="`mysql -u $USER -p$PASS -S $SOCKET students <<EOF
    
18. SET @i:=0;
    
19. select @i:=@i+1 as rank,name,mark from students where dept="$d" order by mark desc;
    
20. EOF`"
    
21. 
    
22. echo "$result"
    
23. echo
    
24. 
    
25. done

脚本按照顺序执行结果如下：

点击(此处)折叠或打开

1. # chmod +x create_db.sh write_to_db.sh read_db.sh
   
2. # ./create_db.sh
   
3. DB already exist
   
4. Table students already exist
   
5. #
   
6. # ./write_to_db.sh studentdata.csv
   
7. Wrote data into DB
   
8. #
   
9. # ./read_db.sh
   
10. Department : CS
    
11. rank name mark
    
12. 1 Navin M 98
    
13. 2 Nawaz O 80
    
14. 3 Kavya N 70
    
15. 
    
16. Department : EC
    
17. rank name mark
    
18. 1 Hari S 80
    
19. 2 Neenu J 70
    
20. 3 Alex M 50
    
21. 4 Bob A 30
    
22. 
    
23. Department : AE
    
24. rank name mark
    
25. 1 Anu M 90
    
26. 2 Sruthi 89
    
27. 3 Andrew 89

在数据库中确认插入后结果：

点击(此处)折叠或打开

mysql>
mysql> show databases;
+--------------------+
| Database |
+--------------------+
| information_schema |
| mysql |
| performance_schema |
| students |
| test |
+--------------------+
5 rows in set (0.00 sec)

mysql>
mysql> use students;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A

Database changed
mysql>
mysql> show tables;
+--------------------+
| Tables_in_students |
+--------------------+
| students |
+--------------------+
1 row in set (0.00 sec)

mysql>
mysql> select * from students;
+------+---------+------+------+
| id | name | mark | dept |
+------+---------+------+------+
| 1 | Navin M | 98 | CS |
| 2 | Kavya N | 70 | CS |
| 3 | Nawaz O | 80 | CS |
| 4 | Hari S | 80 | EC |
| 5 | Alex M | 50 | EC |
| 6 | Neenu J | 70 | EC |
| 7 | Bob A | 30 | EC |
| 8 | Anu M | 90 | AE |
| 9 | Sruthi | 89 | AE |
| 10 | Andrew | 89 | AE |
+------+---------+------+------+
10 rows in set (0.00 sec)

mysql>

来自 “ ITPUB博客 ” ，链接：http://blog.itpub.net/24638123/viewspace-1784198/，如需转载，请注明出处，否则将追究法律责任。

转载于:http://blog.itpub.net/24638123/viewspace-1784198/