达梦数据库适配:DM8+SpringBoot+HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

简介:达梦数据库适配

DM8+SpringBoot+HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

思考:

1、当使用K8、Docker容器化编排技术受到限制,当Oracle、MySql数据存储等数据库软件不再向我们提供正常的服务?

2、在我们的项目工程中,若是没有了这些核心技术提供正常的服务,如何能够去及时地采取补救的措施,使得业务能够平滑过渡,做到让用户无感知体验?

3、是否能够拥有自己的数据存储解决方案,技术框架是否能够适配,能否做到更好地兼容?

下文,小编主要以达梦-DM适配为例->常见问答Q-A的方式阐述:

Q:

DM达梦数据库安装,其对应版本及驱动如何选取,适配程度更佳?

A:

DM8+DmJdbcDriver18

这里提供百度云的方式供使用者下载并安装:   

https://pan.baidu.com/s/1nFBEnX3lYqIjBZo8ZPADgg

一、下载&安装

首先,需要说明的是达梦的安装包放一起的,没有像Oracle那样把客户端独立出来,跟windows的安装包是一样大的,大约1.1GB的样子,好在的一点就是,直接解压就可以使用,在云盘中附详细操作指南。

解压以后,里面有一个\source\tool\manager.exe的应用程序,可直接打开,登录就行。

  二、DM8&Client

  接下来,打开DM8客户端,可通过dm sql脚本方式去创建表,这里只是简单创建了一张crm_version表。这里尤其需要注意的是创建表名不需要带双引号,达梦默认是大写,sql方言中也不需要额外处理,若是通过DM8工具去建表建字段或者带小写加双引号创建脚本,出现双引号则在实际的sql方言中也需要加上双引号,否则执行sql会抛出视图或表不存在,字段列名不存在的异常。

   若是通过Mysql或Oracle或其他数据库,文件等方式迁移导入。这里记录一下迁移过程中遇到的问题,在迁移的时候,报某些字段超长。于是,查看了MySql中那些字段的类型及长度,都是varchar(50) 。这里应该是迁移有些字段,须在DM数据库中增加位宽,在MySql中varchar是表示字符,varchar(50)表示可以存放50个字符,但是DM的默认跟Oracle是一样的,varchar(50)表示50个字节。这就意味着,50个字节,如果存中文,在utf-8的字符集下,只能存最多16个。所以,如果MySql库到DM,varchar类型,需特别留意一下。

  三、DM8&DmJdbcDriver

  然后,在项目工程中引入达梦数据库驱动,SpringBoot对MySql做了集成,没有get到对达梦数据库做集成,小编这里采用的jdk1.8,安装的达梦数据库也是DM8,所以这里引入:

DmJdbcDriver18,其相对于DmJdbcDriver17作出了很大的改进。

  i、本地引入的方式

  在pom.xml文件中,引入依赖jar

<!-- 达梦数据库驱动 --><dependency>      <groupId>com.dm</groupId>       <artifactId>DmJdbcDriver18</artifactId>        <version>1.8</version>         <scope>system</scope>          <systemPath>${project.basedir}/src/main/resources/lib/DmJdbcDriver18.jar</systemPath></dependency>

  ii、nexus私服引入的方式

  在pom.xml文件中,引入依赖jar

<!-- 达梦数据库驱动 --><dependency>      <groupId>com.dm</groupId>       <artifactId>DmJdbcDriver18</artifactId>        <version>1.8</version></dependency>

  说明:这里的groupId坐标参数,可由使用者自行在nexus中upload创建声明,然后在pom.xml中引入相关坐标即可。

  扩展:若是需要从本地deploy到nexus或是先获取本地仓库.m2的包->nexus仓库的包->aliyun maven仓库的包,为了解决开发过程中jar包拉取异常等问题,则在maven中settings.xml中可这样去配置:

<settings xmlns="http://maven.apache.org/SETTINGS/1.0.0"       xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"       xsi:schemaLocation="http://maven.apache.org/SETTINGS/1.0.0 http://maven.apache.org/xsd/settings-1.0.0.xsd">       <!-- 本地仓库 -->       <localRepository>D:/.m2</localRepository>       <mirrors>           <mirror>               <id>nexus</id>               <mirrorOf>*</mirrorOf>               <name>yd nexus</name>               <url>http://ip:port/repository/maven-public/</url>           </mirror>       </mirrors>   <mirror>    <id>alimaven</id>    <mirrorOf>central</mirrorOf>    <name>aliyun maven</name>    <url>http://maven.aliyun.com/nexus/content/groups/public/</url>   </mirror>      <profiles>           <profile>               <id>nexus</id>               <repositories>                   <repository>                       <id>maven-snapshots</id>                       <url>http://ip:port/repository/maven-snapshots/</url>                       <releases><enabled>false</enabled></releases>                               <snapshots><enabled>true</enabled></snapshots>                   </repository>                   <repository>                       <id>maven-releases</id>                       <url>http://ip:port/repository/maven-releases/</url>                       <releases><enabled>true</enabled></releases>                               <snapshots><enabled>false</enabled></snapshots>                   </repository>               </repositories>           </profile>       </profiles>       <servers>      <server>         <id>nexus</id>         <username>yxd179</username>         <password>yxd179</password>       </server>       <server>         <id>maven-releases</id>         <username>yxd179</username>         <password>yxd179</password>       </server>       <server>         <id>maven-snapshots</id>         <username>yxd179</username>         <password>yxd179</password>       </server>     </servers>     <activeProfiles>       <activeProfile>nexus</activeProfile>     </activeProfiles>    </settings>

  四、配置达梦数据库的信息

  说明:这里采取Nacos注册中心去管理项目工程中用到的一些配置信息,Nacos的介绍具体可参考小编微信公众号:每天译点晓知识

https://mp.weixin.qq.com/s/UyQ6wHGMyrGnDRwNZaJz0Q

  至此,达梦数据库环境安装,相关版本及其依赖的选取跟引入,配置信息完毕。

Q:

在DM8达梦数据库适配的项目工程中,多数据库兼容+数据库连接池+ORM映射框架+分页相关控件?

A:

HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

hikari:数据库连接池-Hikari3.4.2。

mybatis:ORM(对象关系映射)框架,内部封装了 JDBC,不需要花费精力处理加载驱动、创建连接、创建 statement 等繁杂过程。

// 驱动-连接地址-账号-密码等信息String driverClassName = "dm.jdbc.driver.DmDriver";String url = "jdbc:dm://localhost:5236/";String username = "yxd179";String password = "yxd179";// 加载驱动Class.forName(driverClassName);// 获取数据库连接对象Connection con = (Connection) DriverManager.getConnection(url,username,password);// 获取数据库操作对象PreparedStatement ps = con.prepareStatement("SELECT COUNT(*) FROM TEST;");// 执行sqlResultSet rs= ps.executeQuery();// 这里还可以获取到数据库产品名称DatabaseMetaData metaData = (DatabaseMetaData) con.getMetaData();// 这里为后续提到的在xml指定达梦的databaseId奠定基础System.out.println("数据库产品名称:" + metaData.getDatabaseProductName());最后需关闭连接close,释放资源->rs-ps-con. 

  tk.mybatis:mybatis定制的第一大业务增强库。

  pagehelper:分页控件,mybatis定制的第二大业务增强库。

Q:

DM8达梦数据库在多数据库切换中,其databaseId如何能够被ORM映射框架MyBatis指定访问?

A:

当 mybatis 在进行 mapper 注入时,当前 sql 方法的 databaseId 和当前数据源的 databaseId 一样?当前 sql 方法的 databaseId 和当前数据源的 databaseId 不一样?当前 sql 未配置 databaseId?

其实,这都是需要我们care到的。当mybatis装配时,若是同一个方法被找到多条sql时,首先,会优先使用 databaseId 相同的 sql。若是没有 databaseId 相同的sql,其次,再使用未配置 databaseId 的 sql,而databaseId 未对应的 sql 不会使用。

i、当获取到的数据源信息为mysql,则执行图一中批量插入insertBatch方法;

ii、当获取到的数据源信息为db2,则执行图二中批量插入insertBatch方法;

iii、当获取到的数据源信息为oracle,则执行图三批量插入insertBatch方法。

上例,这样我们就能极其简易的指定 databaseId,很多小伙伴肯定会说为什么需要这样去指定?其背后的原理又是怎样的,我们是否能够扩展并自定义 databaseId?框架这层的应用真能够提供的这么 perfect 吗?

在上一个Q-A中,我们已经get到了数据库产品的名称,可以从数据源连接对象中去获取,不妨从这里出发。这里先提出一点 little 猜想,mybatis既然能够支持mysql,oracle,db2等等数据库,那么其他关系型数据库?肯定是提供一些这样的入口可以去扩展的,只是各种框架的适配程度不一样,都在不断兼容。网上关于这块的资料并不全面,基于数据库产品名称这条线索,于是,小编封装了独立的适配器sdk,可作达梦等关系型数据库适配。当然不同类型的数据库,后续在sdk中去扩展兼容都是可以做到的。

说明:有兴趣的童鞋请点击译点主页,可公众号后台留言,welcome together^_^

i、通过配置文件属性方式指定databaseId:

mybatis:
  mapper-locations: classpath*:mapper/**.xml
  configuration:
    database-id: dm8

ii、 通过configuration配置类,往容器注入Bean方式指定databaseId:

/**
 * @Auther: X.D.Yang
 * @Date: 2021/4/1 13:14
 * @Description:
 */
@Configuration
public class DatabasesConfig {

    private static final Logger logger = LoggerFactory.getLogger(DatabasesConfig.class);

    @Bean
    public DatabaseIdProvider getDatabaseIdProvider() {
        DatabaseIdProvider databaseIdProvider = new VendorDatabaseIdProvider();
        Properties p = new Properties();
        logger.info("Join DM8 databaseId Starting...");
        p.setProperty("DM DBMS", "dm8");
        //p.setProperty("MySQL", "mysql");
        databaseIdProvider.setProperties(p);
        logger.info("Join DM8 databaseId Start completed.");
        return databaseIdProvider;
    }
}

iii、mybatis-config.xml配置方式指定databaseId:

<databaseIdProvider type="DB_VENDOR">
   <property name="SQL Server" value="sqlserver"/>
   <property name="DB2" value="db2"/>
   <property name="Oracle" value="oracle" />
   <property name="DM DBMS" value="dm8" />
</databaseIdProvider>

至于小编封装的独立sdk,其主要思想结合SpringBoot-自动装配-条件配置

@SpringBootApplication->@SpringBootConfiguration(@Configuration注解,声明为spring的配置类)、@EnableAutoConfigurationspringboot(启动最关键的注解)、@ComponentScan(对包进行扫描)

i、其中@EnableAutoConfiguration注解会读取所有classpath:META-INF/Spring.factories,取keyorg.springframework.boot.autoconfigure.EnableAutoConfiguration下的所有value,注册到核心容器,完成自动配置类的加载

读取:spring提供的工具类-SpringFactoriesLoader>>>第一个参数是个Class对象,决定读取的key,为class对象的全类名。第二个参数是ClassLoader对象,决定从哪里开始找这个文件,然后读取classpath:META-INF/spring.factories文件。

ii自动配置类上有大量自动配置生效的条件,比如依赖是否被引入。springboot采用了默认代替配置的策略,当然也可更改默认配置,比如修改application.yml>yamlproperties配置文件,手动往容器中注册特定bean,注册一些实现特殊接口的类,比如实现WebMvcConfigurer接口的类。自动配置即向容器注册组件,实现了特殊接口的组件,影响spring的生命周期。

/**
 * @Auther: X.D.Yang
 * @Date: 2021/3/15 20:39
 * @Description:
 */
@Configuration
public class WebMvcConfigurer extends WebMvcConfigurerAdapter {

    @Override
    public void addInterceptors(InterceptorRegistry registry) {
        registry.addInterceptor(getLoggedInterceptor()).addPathPatterns("/**");
        super.addInterceptors(registry);
    }

    @Bean
    public LoggedInterceptor getLoggedInterceptor() {
        return new LoggedInterceptor();
    }
}

//WebMvcConfigurer接口还有很多实现方法
@Deprecated
public abstract class WebMvcConfigurerAdapter implements WebMvcConfigurer {
    public WebMvcConfigurerAdapter() {
    }

    public void addInterceptors(InterceptorRegistry registry) {
    }
}

其中,

@ConditionalOnClass:一些类是否存在当前类路径下。

@ConditionalOnProperty:相应的配置字段满足。

@ConditionalOnMissingBean:容器中没有某个bean。

这里我们着重看一下mybatis提供的自动配置包-MybatisAutoConfiguration,生效条件:需引入mybatis相关的依赖,核心容器中只有一个DataSource,在DataSource自动配置完成后才生效等等条件,并且还开启了配置类@EnableConfigurationProperties(MybatisProperties.class)

上述构造方法:当前对象被实例化时,会被注入一系列的bean-MybatisProperties对象...

iii、mybatis为我们注册了SqlSessionFactorySqlSessionTemplate,以及为每个@Mapper注册了一个Mapper实现类-MyBatis->@Autowired注入一个Mapper。

当我们自己为容器中注入SqlSessionFactory对象,从容器中取dataSource(当引入spring-boot-starter-jdbc时会自动配置)作为参数,创建一个SqlSessionFactoryBean对象,该对象是个工厂-生产SqlSessionFactory,这里通过SqlSessionFactoryBean对象的一系列set方法,最后调用getObject方法来获取到SqlSessionFactory对象。其中生成SqlSessionFactory需要的Configuration对象,这里也可以取代mybatis的主配置文件-sqlSessionFactoryBean.setConfiguration方法。

SqlSessionTemplate的创建,则取上述注入的SqlSessionFactory,new SqlSessionTemplate对象即可。至于对MyBatis源码Debug有兴趣的可以参考小编之前的文章>对Mybatis源码的认识_yxd179的博客-CSDN博客

记录:在适配的过程中还试出了达梦的幻读,达梦和Oracle一样默认的隔离级别都是读提交;还有特别需要注意的就是,在数据库中varchar类型的字段,比如在mysql中定义varchar(50),在写满的情况下为50个字符,到了达梦这边最多也就是varchar(150),当然可自行指定位宽,小编用的字符集是UTF-8,每个字符占三个字节,乘以三倍,就肯定是装得下的。目前达梦适配现有的框架为:

HiKari+MyBatis3.4.6+tk.MyBatis+PageHelper

ok,now,接入sdk适配后,启动的效果,大致如下:

  这里,主要对sql分页查询作下阐述:简单的分页可通过手写sql limit...,首先统计count总数,然后计算分页等相关信息,这里不着重说明,当然sql分页控件也是可以去扩展的。PageHelper分页,其主要原理:首先将传递的参数设置到page这个对象中去,然后会接着将page的副本存放入ThreadLoacl中,保证分页时参数互不影响,通过mybatis提供的拦截器,获取ThreadLocal中的值,重新拼装分页sql语句

  接入之后,我们在控制台输出dm sql日志,看一下打印的sql-伪列分页:

  在DM8中正常执行sql,获取结果集:

  而在MySql中,简单limit分页输出是这样的:

  <附注>Debug分页控件源码,其实也很容易理解,分页最终是这样去拼装的:

protected BoundSql getPageBoundSql(Object parameterObject) {    String tempSql = sql;    String orderBy = PageHelper.getOrderBy();    if (orderBy != null) {        tempSql = OrderByParser.converToOrderBySql(sql, orderBy);    }    tempSql = localParser.get().getPageSql(tempSql);    return new BoundSql(configuration, tempSql, localParser.get().getPageParameterMapping(configuration, original.getBoundSql(parameterObject)), parameterObject);}
//当然,这里有很多其他的Parser,这里可扩展,可兼容,去适用于不同的数据库public String getPageSql(String sql) {    StringBuilder sqlBuilder = new StringBuilder(sql.length() + 120);    sqlBuilder.append("select * from ( select tmp_page.*, rownum row_id from ( ");    sqlBuilder.append(sql);    sqlBuilder.append(" ) tmp_page where rownum <= ? ) where row_id > ?");    return sqlBuilder.toString();}

Q:

DM8、MySql、Oracle等数据库切换过程对比,除了各自方言异同,是否还有其他新发现?

A:

结论是肯定的,这里仅根据控制台输出的sql日志来看,PageHelper.startPage(0,100)VSPageHelper.startPage(1,100)

引出这样一个小问题-思考:上述这俩者在DM8、MySql或者其他关系型数据库中会出现不一样的效果吗?若是,又如何去fix^_^

附:由于时间等原因,阐述不一定俱全。本文暂时就到这里。对于达梦这块,搜索可用资源较少,希望对各位读者,在适配达梦数据库过程中能够有所帮助,后续Java体系,大数据体系进阶案例实战都会同时更新,数据库技术体系,同步:每天译点晓知识,欢迎提出宝贵建议^_^

  • 9
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 12
    评论
在Spring Boot应用中使用MybatisHikari实现多数据源,可以按照以下步骤进行操作: 1. 在pom.xml文件中添加相关依赖,包括spring-boot-starter-jdbc、mybatis-spring-boot-starter、hikariCP等。 2. 在application.yml配置文件中配置多个数据源,例如: ``` spring: datasource: master: jdbc-url: jdbc:mysql://localhost:3306/master username: root password: root driver-class-name: com.mysql.jdbc.Driver slave: jdbc-url: jdbc:mysql://localhost:3306/slave username: root password: root driver-class-name: com.mysql.jdbc.Driver ``` 3. 创建多个数据源的配置类,例如: ``` @Configuration @MapperScan(basePackages = "com.example.demo.master.mapper", sqlSessionTemplateRef = "masterSqlSessionTemplate") public class MasterDataSourceConfig { @Primary @Bean(name = "masterDataSource") @ConfigurationProperties(prefix = "spring.datasource.master") public DataSource masterDataSource() { return DataSourceBuilder.create().type(HikariDataSource.class).build(); } @Primary @Bean(name = "masterSqlSessionFactory") public SqlSessionFactory masterSqlSessionFactory(@Qualifier("masterDataSource") DataSource dataSource) throws Exception { SqlSessionFactoryBean bean = new SqlSessionFactoryBean(); bean.setDataSource(dataSource); return bean.getObject(); } @Primary @Bean(name = "masterTransactionManager") public DataSourceTransactionManager masterTransactionManager(@Qualifier("masterDataSource") DataSource dataSource) { return new DataSourceTransactionManager(dataSource); } @Primary @Bean(name = "masterSqlSessionTemplate") public SqlSessionTemplate masterSqlSessionTemplate(@Qualifier("masterSqlSessionFactory") SqlSessionFactory sqlSessionFactory) { return new SqlSessionTemplate(sqlSessionFactory); } } ``` ``` @Configuration @MapperScan(basePackages = "com.example.demo.slave.mapper", sqlSessionTemplateRef = "slaveSqlSessionTemplate") public class SlaveDataSourceConfig { @Bean(name = "slaveDataSource") @ConfigurationProperties(prefix = "spring.datasource.slave") public DataSource slaveDataSource() { return DataSourceBuilder.create().type(HikariDataSource.class).build(); } @Bean(name = "slaveSqlSessionFactory") public SqlSessionFactory slaveSqlSessionFactory(@Qualifier("slaveDataSource") DataSource dataSource) throws Exception { SqlSessionFactoryBean bean = new SqlSessionFactoryBean(); bean.setDataSource(dataSource); return bean.getObject(); } @Bean(name = "slaveTransactionManager") public DataSourceTransactionManager slaveTransactionManager(@Qualifier("slaveDataSource") DataSource dataSource) { return new DataSourceTransactionManager(dataSource); } @Bean(name = "slaveSqlSessionTemplate") public SqlSessionTemplate slaveSqlSessionTemplate(@Qualifier("slaveSqlSessionFactory") SqlSessionFactory sqlSessionFactory) { return new SqlSessionTemplate(sqlSessionFactory); } } ``` 4. 在需要使用数据源的地方使用@Qualifier注解指定数据源,例如: ``` @Service public class UserService { @Autowired @Qualifier("masterSqlSessionTemplate") private SqlSessionTemplate masterSqlSessionTemplate; @Autowired @Qualifier("slaveSqlSessionTemplate") private SqlSessionTemplate slaveSqlSessionTemplate; public List<User> getUsersFromMaster() { return masterSqlSessionTemplate.selectList("com.example.demo.master.mapper.UserMapper.selectAll"); } public List<User> getUsersFromSlave() { return slaveSqlSessionTemplate.selectList("com.example.demo.slave.mapper.UserMapper.selectAll"); } } ``` 这样就可以在Spring Boot应用中使用MybatisHikari实现多数据源了。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值