已经往内存数据库A插入了10W条数据,我现在想把A导入一个物理文件B(具有相同表结构),是不是应该用attach指令?有没有高人详细指点一下?
sqlite3_open(":memory:", &db);
...
ret = sqlite3_exec(db, "CREATE TABLE new_table1 (id integer primary key autoincrement,name vchar(32))", 0, 0, &zErrMsg);
ret = sqlite3_exec(db,"begin transaction",0,0,&zErrMsg);
ret = sqlite3_exec(db, "insert into new_table1 (name) values ('123');", 0, 0,&zErrMsg);
ret = sqlite3_exec(db,"commit transaction",0,0,&zErrMsg);
到上面,数据库已经插入内存数据库了,然后再怎么导入物理文件B?
sqlite3_open("c:\A.dat", &db);
ret = sqlite3_exec(db,"attach A.dat as new_db2",0,0,&zErrMsg);
ret = sqlite3_exec (db,"insert into new_db2.new_table2 (name) values('name')",0,0,&zErrMsg);
ret = sqlite3_exec(db,"detach new_db2",0,0,&zErrMsg);
if (ret!=SQLITE_OK)
MessageBox("附加数据库失败!");
这样会提示"附加数据库失败!",不知道是那里写错了...
并没有多线程写操作,A线程是不停读,B线程是某一时候去写/修改!
A先启动,过段时间B才启动,但是由于A线程是每20毫秒随机从50万条数据中读一条数据,所以查询间隔很快(20ms);此时B线程写1万条数据,然后随机修改2万条数据,B始终是成功的,但是在B操作的同时,A几乎时候处于busy状态,大部分查询(20ms)都是返回busy状态,偶尔能查询出一个值(估计是在B线程写/修改某条数据成功,还未开始下条数据的写/修改的空隙时),B线程写/修改一完成,A线程马上就正常了。
得到三点结论:
1、任何数据库都有读/写互斥(锁),oracle/sqlserver/mysql/sqlite...
2、完全可以修改sqlite源代码,在thread读写有互斥的时候适当的sleep或者提示(新版的sqlite lib已经增加了sqlite3_busy_timeout、sqlite3_busy_handler功能)
3、当CPU运算能力超强时,一定会降低互斥的出现几率,但是互斥这种现象一定不会消失,因为互斥锁的出现就是为了保证数据的完整性,remember!
sqlite3_open(":memory:", &db);
...
ret = sqlite3_exec(db, "CREATE TABLE new_table1 (id integer primary key autoincrement,name vchar(32))", 0, 0, &zErrMsg);
ret = sqlite3_exec(db,"begin transaction",0,0,&zErrMsg);
ret = sqlite3_exec(db, "insert into new_table1 (name) values ('123');", 0, 0,&zErrMsg);
ret = sqlite3_exec(db,"commit transaction",0,0,&zErrMsg);
到上面,数据库已经插入内存数据库了,然后再怎么导入物理文件B?
sqlite3_open("c:\A.dat", &db);
ret = sqlite3_exec(db,"attach A.dat as new_db2",0,0,&zErrMsg);
ret = sqlite3_exec (db,"insert into new_db2.new_table2 (name) values('name')",0,0,&zErrMsg);
ret = sqlite3_exec(db,"detach new_db2",0,0,&zErrMsg);
if (ret!=SQLITE_OK)
MessageBox("附加数据库失败!");
这样会提示"附加数据库失败!",不知道是那里写错了...
----------------------------------------------------------------------------------------------------------------------------
搞反了,应该把文件数据库attach到内存数据库中。sqlite3_open("c:\A.dat", &db);
这一句是多余的,应该去掉。
ret = sqlite3_exec(db,"attach 'c:\A.dat' as new_db2",0,0,&zErrMsg);
这样就可以从内存数据库中复制数据到文件数据库中了,文件数据库中没有表时使用(注意新表没有索引):
create table new_db2.new_table1 as select * from new_table1;
有表时使用:
insert into new_db2.new_table1 select * from new_table1;
这一句是多余的,应该去掉。
ret = sqlite3_exec(db,"attach 'c:\A.dat' as new_db2",0,0,&zErrMsg);
这样就可以从内存数据库中复制数据到文件数据库中了,文件数据库中没有表时使用(注意新表没有索引):
create table new_db2.new_table1 as select * from new_table1;
有表时使用:
insert into new_db2.new_table1 select * from new_table1;
--------------------------------------------------------------------------------------------------------------------
已经搞定~
ret = sqlite3_exec(db,"attach 'c:\A.dat' as new_db",0,0,&zErrMsg);
ret = sqlite3_exec(db,"begin transaction",0,0,&zErrMsg);
ret = sqlite3_exec(db,"insert into new_db.new_table2 (name) select name from new_table1",0,0,&zErrMsg);
ret = sqlite3_exec(db,"commit transaction",0,0,&zErrMsg);
300万条内存数据,10个字段,大概写入了631MB物理文件
ret = sqlite3_exec(db,"attach 'c:\A.dat' as new_db",0,0,&zErrMsg);
ret = sqlite3_exec(db,"begin transaction",0,0,&zErrMsg);
ret = sqlite3_exec(db,"insert into new_db.new_table2 (name) select name from new_table1",0,0,&zErrMsg);
ret = sqlite3_exec(db,"commit transaction",0,0,&zErrMsg);
300万条内存数据,10个字段,大概写入了631MB物理文件
-----------------------------------------------------------------------------------------------------------
A线程:每20毫秒随机从50万条数据中读一条数据
B线程:每60秒随机写1万条数据进去,然后再随机修改2万条数据
B线程一启动,A线程就会提示上面的错误...
B线程:每60秒随机写1万条数据进去,然后再随机修改2万条数据
B线程一启动,A线程就会提示上面的错误...
----------------------------------------------------------------------------------
以下是引用tamsyn在2007-10-11 18:00:55的发言:
你多线程同时进行写操作是肯定要出现问题的,SQLite从本质上就不支持写并发,所以只能是自己在程序里做外部的"写"互斥锁,从而保证同一时间只有一个线程在对数据库进行写操作.应该没有什么其他的好方法.
你多线程同时进行写操作是肯定要出现问题的,SQLite从本质上就不支持写并发,所以只能是自己在程序里做外部的"写"互斥锁,从而保证同一时间只有一个线程在对数据库进行写操作.应该没有什么其他的好方法.
并没有多线程写操作,A线程是不停读,B线程是某一时候去写/修改!
A先启动,过段时间B才启动,但是由于A线程是每20毫秒随机从50万条数据中读一条数据,所以查询间隔很快(20ms);此时B线程写1万条数据,然后随机修改2万条数据,B始终是成功的,但是在B操作的同时,A几乎时候处于busy状态,大部分查询(20ms)都是返回busy状态,偶尔能查询出一个值(估计是在B线程写/修改某条数据成功,还未开始下条数据的写/修改的空隙时),B线程写/修改一完成,A线程马上就正常了。
得到三点结论:
1、任何数据库都有读/写互斥(锁),oracle/sqlserver/mysql/sqlite...
2、完全可以修改sqlite源代码,在thread读写有互斥的时候适当的sleep或者提示(新版的sqlite lib已经增加了sqlite3_busy_timeout、sqlite3_busy_handler功能)
3、当CPU运算能力超强时,一定会降低互斥的出现几率,但是互斥这种现象一定不会消失,因为互斥锁的出现就是为了保证数据的完整性,remember!