FastDB简单介绍及实例(Linux)

(本文内容主要是通过学习官网、博客及阅读官网demo做出的总结)

FastDB是一个内存数据库,通过把数据加载到内存中实现对数据的操作,相比于传统的数据库,操作的速度更快,但是存在一个缺点就是使用FastDB数据库的应用程序都必须运行在同一台主机上。

1 简单介绍
2 访问类型
3 使用流程
4 遇到的问题及解决办法
5 代码实例
6 总结

一、 简单介绍

1 将数据完全加载到内存,在内存中实现对数据的管理;

2 只读模式线程、单个更改模式线程和多个只读模式线程间并发执行;

3 最小单位块:分配量子(16字节);

4 事物提交协议基于一个影子根页算法,对数据库执行原子更新操作,恢复效率高;

影子根页算法:数据库中每条对象都具有唯一标识符用作一个数组(对象索引)的下标,元素值表示对象的一个句柄。(FastDB中存在两个索引:当前索引和影子索引)

5 内存数据结构组织:HASH、T树。

HASH:具有最高查找效率(不适用于插入操作中,键值冲突发生频率较高的场景);
T树:仅次于HASH(不适用于有频繁的添加、删除动作的场景);

在FastDB中,声明为HASH的KEY,采用HASH结构,声明为INDEXED的KEY采用T树结构。

二、 访问类型

1 一共四种访问类型:dbDatabase::dbReadOnly、dbDatabase::dbAllAccess、dbDatabase::dbConcurrentRead、dbDatabase::dbConcurrentUpdate;

2 FastDB不支持客户端/服务器结构(内存数据库,不能跨服务器);

3 dbDatabase::dbReadOnly:默认是这种模式;

4 dbDatabase::dbAllAccess:如果该进程使用了insert、update、delete等修改数据库的操作,其他访问该库的进程的所有操作(包括open、select)都会被阻塞,直到该操作提交或回滚。(该模式我自己在写代码时还没有用到过);

5 dbDatabase::dbConcurrentUpdate:如果某进程对数据进行修改性操作,同时另外的进程使用 dbDatabase::dbReadOnly 或者 dbDatabase::dbConcurrentRead 读数据,不会出现阻塞情况。
但是 dbDatabase::dbReadOnly 会把未提交的脏数据读出来,而dbDatabase::dbConcurrentRead不会;

6 多个进程使用 dbDatabase::dbConcurrentUpdate 实际效果和 dbDatabase::dbAllAccess 一样(阻塞);

7 不要把 dbDatabase::dbConcurrentUpdate 和 dbDatabase::dbConcurrentRead 模式混用,不能同时启动两个线程,其中一个用 dbConcurrentUpdate 模式打开数据库,另一个用 dbConcurrentRead 模式;

8 在 dbDatabase::dbConcurrentUpdate 模式下不要使用 dbDatabase::precommit方法。

三、 使用流程(Linux)

1 在fastdb官网下载安装包进行安装;

2 在服务器上安装fastdb,可以参考这个博主的文章(fastdb安装配置);

3 编写测试文件,或者直接在下载的fastdb安装包中找一个example文件进行测试;

4 编写Makefile文件,注意添加以下内容:-I/usr/local/include/fastdb -L/usr/local/lib -lrt -lz -lfastdb (上面的内容根据自己的实际安装路径进行调整)。

5 编译代通过,运行代码。

四、 遇到的问题及解决办法

1 undefined reference to dbDatabase::~ 等报错

原因 :没有成功引入相关的头文件或者.so文件;

解决办法:编写Makefile文件时没有添加相关的依赖(参考上面的第4点内容);

2 Incompatibility between headers and library:6 vs. 4

原因:fastdb会假设绝大多数Linux是64-bit的,如果测试的是32-bit的,就会报错;

解决办法:根据安装目录,找到fastdb目录下的config.h头文件,将以下代码注释即可。(运行的环境是64-bit的,依旧报错,感觉不是这个原因,但是按照这种方法可以解决,很迷~)

//#if!defined(_WIN32)||defined(_WIN64)//most unixes are now 64-bit,while 32-bit windows is still quite popular
//#define LARGE_DATABASE_SUPPORT
//#endif

3 当运行的数据大概达到一千万条以上的时候,即生成的文件内容达到2G之后,程序就会抛出异常,自动停止,这个问题找了很久一直也没有解决。

五、 代码实例

下面的代码只是一个简单的实例,包含了表关联(删除一个表的数据,另一个表相关的记录也会被删除),数组的使用,插入数据、查询数据、删除数据。

(ps:下面的代码是手撕的(不是copy的服务器上面的代码),没有实际测过,可能会有一些小小的问题,欢迎指出,不过大体上是没有什么问题的。)

#define _LARGEFILE_SOURCE
#define _LARGEFILE64_SOURCE
#define _FILE_OFFSET_BITS 64

#include "fastdb.h"
#include "database.h"
#include <iostream>
#include <stdio.h>
#include <sys/time.h>
#include <sring>

using namespace std;
USE_FASTDB_NAMESPACE

dbDatabase db;

#define random(a,b) (rand()%(b-a))+a+1  //生成随机数
#define TeacherNum 5   //老师个数
#define StudentNum 20  //学生个数

class Student;
class Teacher
{
public:
	const char* teacher_name;
	dbArray<dbReference<Student>> std_code;
	TYPE_DESCRIPTOR((KEY(teacher_name,INDEXED),OWNER(std_code,tech_code)));
};

class Student
{
public:
	const char* std_name;
	dbArray<int4> scores;  //Chinese English Math
	dbReference<Teacher> tech_code;
	TYPE_DESCRIPTOR((KEY(std_name,INDEXED),
					 FIELD(scores),
					 RELATION(tech_code,std_code)));

};

REGISTER(Teacher);  //注册Teacher表
REGISTER(Student);  //注册Student表

//生成老师的编号
void getRandomCharTeach(char * randnum)
{
	int num = random(0,10);  
	snprintf(randnum,sizeof(randnum),"%d",num);  //int类型转换为char *
}

//生成学生的编号
void getRandomCharStu(char * randnum)
{
	int num = random(20,50);
	snprintf(randnum,sizeof(randnum),"%d",num);  //int类型转换为char *
}

//生成0-100之间的随机数
int4 getRandomIntSocre()
{
	int num = random(0,100);
	return num;
}

//查询老师编号
void selectTeachName()
{
	cout<<"***** selectTeachName *****"<<endl;
	dbCursor<Teacher> cursorTeach;  //只读游标
	int n = cursorTeach.select();  //查询
	cout<<"Teacher的数量为:"<<n<<endl;

	if(0<n)
	{
		do
		{
			cout<<"teacher_name = "<<cursorTeach->teacher_name<<" ."<<endl;
		}while(cursorTeach.next());  //游标向后滚
	}
}

//查询学生信息
void selectStuInfo()
{
	cout<<"***** selectStuInfo *****"<<endl;
	dbCursor<Student> cursorStu;  //只读游标
	int n = cursorStu.select();  //查询
	cout<<"Student的数量为:"<<n<<endl;

	if(0<n)
	{
		do
		{
			cout<<"std_name = "<<cursorStu->std_name<<" , "<<
			"Chinese = "<<cursorStu->scores[0]<<" , "<<
			"English = "<<cursorStu->scores[1]<<" , "<<
			"Math = "<<cursorStu->scores[2]<<" ."<<endl;
		}while(cursorStu.next());  //游标向后滚
	}
}

//删除所有数据
void removeAllRecord()
{
	cout<<"***** removeAllRecord *****"<<endl;
	dbCursor<Teacher> cursorTeach(dbCursorForUpdate);  //写游标对象
	cursorTeach.removeAll();
	dbCursor<Student> cursorStu(dbCursorForUpdate);  //写游标对象
	cursorStu.removeAll();
}


int main()
{
	Teacher techer;
	Student student;

	if(db.open(_T("test")))
	{
		cout<<"Start inserting data..."<<endl;
		for(int i = 0; i < TeacherNum; i++)
		{
			char tech_num[2];
			getRandomCharTeach(tech_num);
			techer.teacher_name = tech_num;
			dbReference<Teacher> techer_class = insert(techer);
			cout<<"Insert "<<techer.teacher_name<<" to Teacher."<<endl;
			db.commit();

			//插入多个学生信息对应当前老师
			for(int j = 0; j < StudentNum; j++)
			{
				char std_num[2];
				getRandomCharStu(std_num);
				student.std_name = std_num;
				int Chinese = getRandomIntSocre();  //语文成绩
				int English = getRandomIntSocre();  //英语成绩
				int Math = getRandomIntSocre();  //数学成绩
				
				student.scores(3);  //数组大小为3
				student.scores.putat(0,Chinese);  //把各科成绩放到数组中
				student.scores.putat(1,English);
				student.scores.putat(2,Math);
				student.tech_code = techer_class;  //把当前学生的信息与对应老师相关联
				insert(student);  
				cout<<"Insert std_name : "<<student.std_name<<" , "<<
				"Chinese : "<<Chinese<<" , "<<
				"English : "<<English<<" , "<<
				"Math : "<<Math<<" ."<<endl;
			}
			db.commit();
		}
		//查询、删除的实例可以在open表之后直接调就可以了,这里就不写了
	}
	db.commit();
	return 0;
}

六、 总结

fastDB确地有它的优点,但是现有的相关资料比较少,所以使用起来会有难度,重点是文件超过2G的抛异常的问题没有找到相关的解决方案,如果有朋友有相关解决方案,可以一起交流学习。

----------如有侵权,联系删除!

  • 0
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
概述FastDB是一个高效率的内存数据库系统,具有实时性能和方便的C++接口。 FastDB并不支持客户端/服务器结构,所有使用FastDB数据库的应用程序都必须运行在同一台主机上。FastDB为具有主导读取访问模式的应用程序作了优化。通过消除数据传输的开销和使用高性能的锁工具实现了查询执行的高速度。数据库文件和使用该数据库的每一个应用程序占用的虚拟内存空间相映射。所以查询在应用程序的任务中执行,不需要进行任务切换和数据传输。在FastDB中,通过原子指令来实现对数据库并发访问的同步,对查询处理几乎不增加任何开销。FastDB假设整个数据库都在当前内存中,并且在这个假设的基础上优化查询算法和结构。另外,数据库缓存管理几乎不会给FastDB增加任何开销,同时FastDB也不需要在数据库文件和缓冲池中进行数据传送。这就是为什么FastDB比将所有数据放在缓冲池中的传统数据库明显速度快的原因。   FastDB支持事务、在线备份和系统崩溃之后的自动恢复。事务提交协议基于一个影子根页算法,对数据库执行原子更新操作。恢复操作执行起来非常快,给关键应用程序提供了高效率。另外,它还取消了事务日志,提高了系统的整体性能,并且能够更加有效地使用系统资源。   FastDB是面向应用程序的数据库,使用应用程序的类信息来构建数据库的表。FastDB支持自动系统赋值,只允许你在一个地方——你的应用程序的类中,改变它们的值。FastDB为从数据库中提取数据提供了一个灵活而方便的接口。使用类似于SQL的语言来书写查询语句。这些非原子字段、嵌套数组、用户自定义类型和方法、直接指向对象内部的指针等后关系性能,简化了数据库应用程序的设计,并且使得它们更加高效。   虽然FastDB的优化是基于整个数据库都存放在机器的物理内存的这个假设上的,我们依然可以将FastDB使用在那些大小超过系统物理内存的数据库上。最后,标准操作系统的交换机制将会起作用。但是所有的FastDB的算法和结构的优化都是基于数据存放在内存中这个假设上的,所以数据交换的效率不会很高。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值