database
文章平均质量分 65
database
weixin_40455124
这个作者很懒,什么都没留下…
展开
-
gaussdb 主备 8 数据库安全学习
1.1.2 GaussDB支持以下的权限:SELECT、INSERT、UPDATE、DELETE、TRUNCATE、REFERENCES、CREATE、CONNECT、EXECUTE、USAGE、ALTER、DROP、COMMENT、INDEX和VACUUM。1.3.1 系统管理员将不再具有CREATEROLE属性(安全管理员)和AUDITADMIN属性(审计管理员),即不再拥有创建角色和用户的权限,也不再拥有查看和维护数据库审计日志的权限。在数据库运行期间修改审计开关的值,会立即生效,无需重启数据库。原创 2024-10-13 10:30:06 · 872 阅读 · 0 评论 -
GaussDB 主备版本8 -schema及操作
DBE_SQL_UTIL.create_hint_sql_patch接口创建的用于调优的Hint PATCH可能会影响错误命中语句的性能,使用DBE_SQL_UTIL.create_abort_sql_patch接口创建的用于避险的Abort PATCH需要谨慎使用。这个模式的拥有者是初始数据库用户,但是所有用户仅有使用权限,没有创建表、函数等对象的权限。SUMMARY_开头的视图,代表是将数据库内的数据概述,多数情况下是返回数据库节点(有时只有数据库主节点的)的数据,会对数据进行加工和汇聚。原创 2024-10-13 10:26:16 · 1152 阅读 · 0 评论 -
GaussDB 主备版本8 -数据库对象 学习
1.1 GaussDB自带了两个表空间:pg_default和pg_global1.1.1 默认表空间pg_default:用来存储非共享系统表、用户表、用户表index、临时表、临时表index、内部临时表的默认表空间。对应存储目录为实例数据目录下的base目录。1.1.2 共享表空间pg_global:用来存放共享系统表的表空间。对应存储目录为实例数据目录下的global目录。1.2 华为建议使用默认表空间,性能更好?原创 2024-10-13 10:10:28 · 1139 阅读 · 0 评论 -
gaussdb 主备版本8 SQL参考 学习
SQL参考。原创 2024-10-13 10:01:25 · 958 阅读 · 0 评论 -
GaussDB主备版 8 工具学习
3.16.1 gs_rescue_tui工具集成了gs_rescue工具的解析单表的功能,给用户提供TUI界面(Text-based User Interface,文本用户界面),在与用户的交互中,自动拼接解析系统表和用户表的gs_rescue命令,最终实现解析和恢复整个数据库的功能。除此之外不建议使用。2.9.1 当数据库中某些主机故障或者主机上的某些实例发生故障后,为了使GaussDB快速地恢复正常,用户可以使用gs_replace工具将发生故障的主机替换为正常主机,将发生故障的实例替换为正常实例。原创 2024-10-13 08:37:33 · 961 阅读 · 0 评论 -
DuckDB 学习
重写需要加overwrite_or_ignore, 建议先根据业务逻辑控制是否要删除再重写。有新文件加入到minio的时候,duckdb不会自动刷新文件,新文件不会被访问。可以直接讲csv表(customer) 写入minio并分区。duckdb定位是分析型db,因此事务类sql支撑比较少。要特别注意URL_STYLE的设置还有USE_SSL。– 不用table 会直接访问所有文件。两种方式:使用secret或者set。如果是本地库,duckdb会写wal。如果使用table 模式。–多次copy 測試。原创 2024-07-27 08:05:56 · 745 阅读 · 0 评论 -
简单记录一下Oracle All_tab_modifications
考虑到大多数时候 表分析是默认打开的,因此可以通过关注这个表的变化来监控表是否有数据变化。需要注意:做了表分析后没有变化,All_tab_modifications没有数据。原创 2024-01-10 08:14:45 · 483 阅读 · 0 评论 -
oracle rowscn 简单记录
oracle ROWSCN 及其它scn。原创 2023-07-03 20:57:58 · 403 阅读 · 0 评论 -
忘掉mysql 的replace语句吧
在开发janusgraph backend过程中发现replace 比DUPLICATE 慢不是一点点,而是指数级级别的慢,所以千万不要用。Mysql 类似oracle 的merge 语句有两种。原创 2022-11-02 20:34:42 · 159 阅读 · 0 评论 -
GP SQL 优化及执行计划相关记录
如果有大量的运行时间在1分钟以下的SQL,你会发现大量的时间消耗在收集统计信息上。on change:当一条DML执行后影响的行数超过gp_autostats_on_change_threshold参数指定的值时,会执行完这条DML后再自动执行一个analyze 的操作来收集表的统计信息。在postgresql.conf中有控制自动收集的参数gp_autostats_mode设置,gp_autostats_mode三个值:none、no_change、on_no_stats(默认)...原创 2022-08-14 22:22:34 · 817 阅读 · 0 评论 -
GP db模板、dblink、tablespace、交换分区和数据倾斜
GP6创建 tablespace和之前版本不同,需要先在所有主机上确保有对应的目录, 可以通过函数gp_tablespace_location(oid)查看已经创建的(默认除外)的路径。实际可以将任意一个database作为template 用于创建新database,但作为模板的时候需要没有连接,否则会有如下错误。同时如果关注partition,同样可以使用pg_table_size,原因是GP分区在pg上也是独立的表.pg_relation_size有时候不生效,可以改用pg_table_size。..原创 2022-08-13 23:33:26 · 447 阅读 · 0 评论 -
GP 限制使用资源模式:资源组及资源队列
GP资源组使用Linux cgroups管理CPU资源。GP同样也使用cgroups管理外部组件内存资源;GP安装后,默认使用资源队列,为了启用资源组,必须设置gp_resource_manager配置参数。具体可以参考如下链接。原创 2022-08-13 18:13:18 · 464 阅读 · 0 评论 -
greenplum role /user 管理
greenplumrole其实是一个可inherit的user,要可以在客户端使用需要1、在gp里面创建并赋予login等权限2、在master的pg_hba.conf里面赋予允许登录ip查看全部role可以通过以下sql之一依据vmware的role的主要内容包括。...原创 2022-08-02 08:26:59 · 266 阅读 · 0 评论 -
GP 6总体架构学习笔记
Master、Secondary 、Segment、Mirror都是pg实例注意gp使用的pg有一定定制化的实例间数据复制通过WAL日志模式实现同一份数据的Mirror和Segment应该错开部署,避免在同一物理机器上大规模数据导入、导出建议都通过外部表,而非copy模式Secondary 默认应该单独部署并且无其它任何任务以保障master出现问题后的快速切换...原创 2022-07-31 09:45:09 · 234 阅读 · 0 评论 -
greenplum 6 数据存放
分区是以pg表模式存在,gp支持sub分区InGreenplum,asinPostgres,eachpartitionisactuallyatable。外部表只能是writable(注意不是write,t后没有e)或者readable之一,但可以对同一(组)文件建立readable及writable表,实现同时读写。Determinesintowhichsegmenttablerowsareassigned.代表数据怎么(hash)到各个节点(segment)。.........原创 2022-07-17 23:16:37 · 351 阅读 · 0 评论 -
Mysql question 和query的差异
question 和query 差不多,其实都是执行的语句数量,使用以下语句可以看到都在正在mysql> show global status like 'Qu%';+---------------+-------+| Variable_name | Value |+---------------+-------+| Queries | 745 || Questions | 397 |+---------------+-------+2 rows in se原创 2021-12-30 23:25:58 · 1497 阅读 · 0 评论 -
ORACLE 12.2.0.1.0C 增加、修改字段测试
12C增加default 值但允许为null的字段的总结见https://blog.csdn.net/weixin_40455124/article/details/115499045。在以下两个版本数据继续分析1、11.2.0.1.02、12.2.0.1.0继续分析其它模式及修改字段不允许为空模式:12C 会等待没有锁后处理,和11G是一样的SQL> create table TESTUSER.auto_hidden_test 2 (v1 varchar2(20), 3 i1原创 2021-04-08 22:23:53 · 165 阅读 · 0 评论 -
ORACLE 12C 增加defualt 并且为空字段guard-column
ORACLE 12C 增加带default值的允许为空字段 的处理与之前版本(11G)不一样,会自动增加一个hiddendrop table testuser.auto_hidden_test;create table testuser.auto_hidden_test(v1 varchar2(20),i1 number(14,0));alter table testuser.auto_hidden_test add constraint PK_auto_hidden_test pri原创 2021-04-07 23:36:42 · 306 阅读 · 0 评论 -
用文件复制方法建立mysql gtid集群
建立gtid集群一般说法都是使用mysqldump等文件来建立,但如果需要修改非动态mysql参数重新启动master节点的话,直接使用复制mysql 目录可能更高效。master 基本步骤如下:shutdown mastermaster节点复制数据使用show master status 记录数据用于check修改参数并启动master创建replication用户及赋权slave节点删除auto.cnf以获取不同mysql uuid(不删除slave启动会报错误)配置参数并使用c原创 2021-03-21 05:55:39 · 62 阅读 · 0 评论 -
oracle partition exchange 测试
核心信息:11g-12c 版本表分区统计信息会同步,表统计信息、索引统计信息不同步以下为测试脚本:DROP table t_partition_range;DROP table t_beexchange;create table t_partition_range(id number,name varchar2(20))partition by range(id)(partition pmax values less than(maxvalue));insert into t_partiti原创 2020-10-15 07:53:25 · 227 阅读 · 0 评论 -
Spark save to database 控制连接数的另外一种模式
在前一篇博文中提到save本质是shuffle ,可以通过shuffle来控制连接数量,但还有一种模式可以结合控制,就是将partition数量合并小于shuffle数量,关键代码如下 Dataset<Row> df5 = df3.coalesce(1); System.out.println("start to save :" + (new Date()) ); //df3.foreachPartition(func); df5.write().mode(Sa原创 2020-07-17 19:38:28 · 294 阅读 · 0 评论 -
Spark Dataset write to database的并发控制
Spark 3 使用如下代码df3.write().mode(SaveMode.Append).jdbc(url, "wordcount", dBWriteConOption2);写入数据库的时候,spark实际认为是一个shuffle操作,因此可以通过参数spark.sql.shuffle.partitions来进行控制,如下面的代码SparkConf sparkConf = new SparkConf().setAppName("JavaSparkJDBCSQL-REMOTE"); sp原创 2020-07-16 21:13:53 · 874 阅读 · 0 评论 -
Spark -oracle 链接数不够导致的ORA-12519, TNS:no appropriate service handler found
参考前一篇blog:https://blog.csdn.net/weixin_40455124/article/details/107288057数据可以插入,但报ORA-12519, TNS:no appropriate service handler found。尝试了很多地方,也去google,但没有找到真正答案,从oracle端开始考虑,如果按一般说法是service不对,于是去观察listener.log,发现报告12519错误的链接和正常的是一样的。突发奇想,是否是链接不够导致,先查看了当原创 2020-07-12 01:01:06 · 327 阅读 · 0 评论 -
杂记-2020-6-28
好久没有搞oracle,今天处理一个紧急问题,发现除了细节,其它还记得。oracle 还是很强大,2个2亿表hash 只需要10几分钟。但从同事处理的情况看,处理问题还是要回到对软件本身的属性、原理的了解。一个大表通过PK取模取1/10其实就是全表读,因为一个block里面往往有多条记录,按extent读取肯定是一起加载到内存的。在做批量处理就按批量来,全表读取往往比用索引块,因为使用索引带来的额外IO及查找对批量业务来说是增加了IO及cpu使用。...原创 2020-06-28 23:43:05 · 126 阅读 · 0 评论 -
Oracle 正则表达式记录
–找出ip4select * from ip_domain_examplewhere regexp_like(domain,’.(\d+)(.)(\d+)(.)(\d+)(.)(\d+).’)–找出域名select * from ip_domain_examplewhere regexp_like(domain,’(.com+)|(.net+)|(.th+)|(.sg+)|(.jp+)|...原创 2020-01-08 09:42:52 · 139 阅读 · 0 评论