
数据库实践及FAQ
文章平均质量分 87
oracle,mysql,mariadb,redis,sqlserver,MongDB,Hbase
羌俊恩
工学文艺IT男,10年从事IT及项目管理相关工作,业余喜欢文字,视频剪辑,电气自动化和机械维修
展开
-
数据库国产化之PanWeiDB
接《数据库国产化探究及升级改造过程指导》一文,本节我们来了解下国产化关系型数据库PanWeiDB(磐维数据库)。磐维数据库(PanWeiDB)是中移信息首个基于中国本土开源数据库==openGauss(开源协议友好)内核(NUMA化内核结构)==打造的面向ICT基础设施的自研数据库产品,华为官网显示GaussDB(for MySQL)提供百万级QPS,性能最高可以达到MySQL社区版本的7倍;原创 2024-10-24 12:05:49 · 3306 阅读 · 0 评论 -
mysql异常数据损坏处理,报错:Operating system error number 2 in a file operation
某次一线反应,某主库表全部丢失,查看为空,登陆主机查看mysqld.log后报错:Operating system error number 2 in a file operation数据目录OS重装后修改过,但只是指向方式不同,目录还是同一目录,另怀疑被入侵遭删除,但也没发现相关异常;另外如果是多主环境,可配置如下,避免多主写入,带有自增列的记录导致自增列冲突的问题。如上所示,找不到innodb 数据字典文件*.ibd的,关于此类报错,官网。2、重启数据库,重新初始化重建,mysql表空间,原创 2024-07-08 18:42:36 · 2049 阅读 · 0 评论 -
数据库国产化探究及升级改造过程指导
当前官网最新版本为DM8,相较于目前主流产品架构:不同特性依靠不同内核去实现,DM8独特采用了双存储引擎架构,行存储引擎和列存储引擎可相互配合、协同工作。同时实现了计算层和存储层的分离,同一内核既支持共享存储式集群,也支持分布式事务集群。原创 2024-03-18 17:59:28 · 3370 阅读 · 0 评论 -
国产化改造之Mysql迁移方案:Mysql Galera Cluster
通过这些 API,Galera Cluster 提供了基于验证的复制,是一种乐观的同步复制机制,一个将要被复制的事务(称为写集),不仅包括被修改的数据库行,还包括了这个事务产生的所有 Binlog,每一个节点在复制事务时,都会拿这些写集与正在 APPLY 队列的写集做比对,如果没有冲突的话,这个事务就可以继续提交或者是 APPLY,此时这个事务就被认为是提交了,然后在数据库层面还需要继续做事务上的提交操作。由于我们是直接复制文件过去,所以,这个表里面是没有信息的,所以就会提示表不存在。原创 2023-09-10 16:56:41 · 1404 阅读 · 1 评论 -
国产Gauss 分布式数据库概述
GaussDB是华为2023年6月7日发布新一代分布式数据库,采用share-nothing架构,数据自动分片,通过GTM-Lite技术实现事务强一致无中心节点性能瓶颈,是华为基于openGauss自主创新研发的一款分布式关系型数据库,它也被称为全球首个人工智能原生(AI-Native)数据库。该产品支持分布式事务,同城跨AZ部署,数据0丢失,支持1000+节点的扩展能力,PB级海 量存储。原创 2023-06-08 10:25:24 · 5383 阅读 · 0 评论 -
Mysql安全之权限用户管理参考手册
into outfile…1)mysql启用尽量使用mysql用户,且mysql用户无本地登录权限,当使用mysql用户启动数据库时,可以防止任何具有file权限的用户能够用root创建文件。而如果使用root用户启动数据库,则任何具有file权限的用户都可以读写root用户的文件。2)注意防止DNS欺骗:创建mysql用户时,user权限表的host可以指定域名或者ip地址, 但是当使用域名时,就可能带来如下安全隐患: 如域名对应的ip址址被恶意修改,则数据库就会被恶意的ip地址进行访问,导致安全隐患。原创 2023-01-18 16:38:47 · 1277 阅读 · 0 评论 -
大数据处理之ClickHouse概述及架构参考(未完)
中移某业务拨测系统基于业务数据拨测指标及日志的分析需要,随着Clickhouse在OLAP领域的快速崛起,以及一些特性考虑,比如:数据量会很大,最好需要分布式;支持实时写入,支持快速计算,在较短时间内能完成计算;强大的sql能力,实时指标sql化;人力有限,运维需要简单;高效的压缩比存储,服务器有限,可以用更少的服务器存储更多的数据;我们也考虑在环境中引入ClickHouse组件,协助flink加强日志数据分析;原创 2022-12-22 23:26:08 · 3530 阅读 · 2 评论 -
Mysql报错:Got an error reading communication packets
对于interactive_timeout覆盖wait_timeout,只会在用户登陆的时候才出现.其覆盖操作定义在函数server_mpvio_update_thd中,其他任何情况都不会出现覆盖。:connect_timeout在握手认证阶段(authenticate)起作用,interactive_timeout 和wait_timeout在连接空闲阶段(sleep)起作用,而net_read_timeout和net_write_timeout则是在连接繁忙阶段(query)或者网络出现问题时起作用。原创 2022-10-10 22:44:22 · 7508 阅读 · 0 评论 -
MySQL主从不一致问题相关处理
某业务采取mysql的主从架构,但因为存储的问题,导致备库一直无法存储,数据同步一致性问题一直也未恢复,某次安全检查要求完成主备倒换演练,必须限期恢复主备,但是在恢复过程中,同步显示正常一段时间后,便会出现sql线程异常,主备数据不一致导致的同步错误情况。主数据库上面设置的max_allowed_packet比从数据库大,当一个大的sql语句,能在主数据库上面执行完毕,从数据库上面设置过小,无法执行,导致的主从不一致。根据上面的NR行数,查看附近的行,定位数据不一致的地方,后续手动补全。原创 2022-09-26 08:52:19 · 13743 阅读 · 0 评论 -
Linux定时任务脚本执行时mysqldump备份异常的问题
某业务系统的mysql自动备份定时任务检查执行过程中,发现mysqldump备份出的文件默认只有4K大小,即文件成功生成了但大小不对。但检查脚本,手动执行脚本,输出结果正常。原创 2022-08-02 13:32:48 · 1465 阅读 · 0 评论 -
常见NoSQL数据库概述
我们再日常的运维中,应用及接触最多无疑是关系型数据库了,尤其以开源的为主:Mysql、MariaDB、Postgrelsql等;然后随着业务的复杂,数据量及类型的快速转变,我们不得不考虑更多数据库满足我们的业务需要,必须时序性的,全文检索的,k-v的,即时查询的,图形的,音视频的等等,作为运维,我们也不得不了解并掌握其中最常用的典型代表。......原创 2022-07-09 19:55:53 · 7102 阅读 · 1 评论 -
MySQL报Fatal error: mysql.user table is damaged or in unsupported 3.20 format
一、问题描述某次数据库关停过程中,遗留部分正在连接的进程(有相关网络连接)未正常关闭,因是生产非上线环境,进行了强制终止连接,导致MySQL再次启动报错:ERROR! The server quit without updating PID file (/opt/deepinsight/mysql/data/Namenode.pid).查看日志:2022-05-18 22:59:50 21655 [ERROR] Fatal error: mysql.user table is damaged or原创 2022-05-19 17:58:17 · 1520 阅读 · 0 评论 -
MySQL 启动失败报错无法更新pid文件
一、问题描述某次因MySQL故障,一线人员反馈MySQL启动,一直无法启动,报错:启动mysql失败 ERROR! The server quit without updating PID file (/usr/local/mysql/data/mysql.pid).二、问题分析1)pid文件缺失,MySQL本身存在重启pid文件丢失,重启不会重建的问题。可能原因:mysql的端口被占用生成pid文件的目录mysql的权限不足mysql对应的my.cnf配置文件错误mysql的启动脚本有问题原创 2022-05-09 13:48:24 · 42731 阅读 · 1 评论 -
Mysql启动之报错:The server quit without updating PID file
一、问题描述某次一线报某业务网站门户登录验证码获取失败;因该验证码是代码里通过验证码函数实现存入数据库,登录时再读取数据库里的验证码来实现包包里破解登录的;因此本次故障极大可能出现在数据库服务器故障。类似报错信息如下:polkitd[551]: Registered Authentication Agent for unix-process:3986:1469369……Starting MySQL. ERROR! The server quit without updating PID file原创 2022-04-09 12:04:55 · 10564 阅读 · 0 评论 -
Mysql日常巡检参考(持续更新)
一、概述二、MySQL巡检2.1、检查MySQL主从复制健康状态show slave status\G #通过重要字段来判断当前主机的主从复制状态是否健康……Slave_IO_Running: YesSlave_SQL_Running: Yes……Slave_SQL_Running_State: Reading event from the relay logSeconds_Behind_Master: 4508#检查进程,查看是否异常连接show processlist; #原创 2022-01-27 16:44:04 · 10509 阅读 · 3 评论 -
mysqldump报错: Got error: 2002: Can‘t connect to local MySQL server through sock
故障描述在对MySQL数据库备份时,执行mysqldump命令,报错如下:mysqldump: Got error: 2002: Can’t connect to local MySQL server through sock故障原因及修复上述报错已指明是因为mysql的socket接口连接不对/socket文件读取异常,导致socket无法连接所致。1)确认当前MySQL的socket:2)用正确的socket文件连接mysql,再次执行mysqdump命令:...原创 2021-10-18 10:37:51 · 10647 阅读 · 0 评论 -
MySQL海量数据项目实战
一、背景本文主要介绍包含 MySQL 典型数据库架构介绍、MySQL 主流数据库架构对比等理论性知识,然后从“订单、用户”两个项目实战,抛砖引玉,介绍亿级互联网业务数据库项目如何设计。一般流程:二、MySQL架构2.1、MySQL 典型数据库架构想要更好地规划和设计 MySQL 数据库架构,首先需要了解典型的数据库架构,它通常由三部分组成:数据库[原生]架构:高可用组件:中间件:其次,数据库架构又可以分为**三大类:**主从架构、集群架构和分布式架构。1)在主从架构类别中,又可以分原创 2021-09-12 21:48:15 · 2958 阅读 · 1 评论 -
MySQL 启动异常处理
一、问题描述某次接手一个新业务系统,业务主机重启后,发现MySQL启动后,无法登录,命令行本地登录报错:ERROR 1045 (28000): Access denied for user ‘root’@‘localhost’ (using password: Yes)二、原因分析处理1、上述报错是因为登录用户密码不正确所致;可重置登录密码来解决;操作:1)编辑MySQL配置文件/etc/my.cnf,在mysqld配置段里添加skip-grant-tables;这会允许你下次无密码登录;2)原创 2021-07-26 20:04:29 · 1024 阅读 · 4 评论 -
SQL Server 2008 R2 安装过程图解
一、概述SQL Server 是Microsoft 公司推出的关系型数据库管理系统。Microsoft SQL Server 是一个全面的数据库平台,使用集成的商业智能 (BI)工具提供了企业级的数据管理。Microsoft SQL Server 数据库引擎为关系型数据和结构化数据提供了更安全可靠的存储功能,使您可以构建和管理用于业务的高可用和高性能的数据应用程序。二、安装部署1、下载SQL Server 2008 R2数据库链接:https://pan.baidu.com/s/180QbQN5Vd原创 2021-06-03 19:09:01 · 1088 阅读 · 0 评论 -
关于PostgreSQL数据库那些事
概要自从MySQL被Oracle收购以后,PostgreSQL逐渐成为开源关系型数据库的首选。架构安装配置笔记1、pgbouncer介绍Pgbouncer,又称PostgreSQL 连接池,Pgbouncer是一个针对PostgreSQL数据库的轻量级连接池,轻量级体现在:它使用libevent进行socket同学,通信效率高;它是使用C语言编写,效率高,每个连接仅消耗2kB内存。任何目标应用都可以把 pgbouncer 当作一个 PostgreSQL 服务器来连接,然后pgbounce原创 2021-03-17 18:30:20 · 408 阅读 · 0 评论 -
Horizon Daas 租户设备数据库说明指导
概述租户数据库分为fdb、avdb,edb三个数据库;租户数据库:edb1、第一个schema:_slony有以下表2、第2个schema:3、第3个schema:原创 2021-02-08 16:04:30 · 252 阅读 · 0 评论 -
MySQL数据库面试题汇总
一、数据库基础知识1.1、数据库存储与其他存储有何区别?a)数据保存在数据库:1)数据永久保存;2)使用SQL语句,查询方便效率高。3)专门的管理工具,管理数据方便b)数据保存在内存:优点: 存取速度快;缺点: 数据不能永久保存c)数据保存在文件:优点: 数据永久保存;缺点:1)速度比内存操作慢,频繁的IO操作。2)查询数据不方便1.2、什么是SQL?结构化查询语言(Structured Query Language)简称SQL,是一种数据库查询语言。作用:用于存取数据、查询、更新和管理关系数转载 2020-10-31 13:04:23 · 764 阅读 · 1 评论 -
常用NoSQL数据库
NoSQL常用数据库Redis: Redis 是一个开源的,基于内存中的数据结构存储系统,也可基于日志持久化,是一种Key-Value数据库,它有主要5种数据结构:字符串(String), 哈希(Hash), 列表(list), 集合(sets) 和 有序集合(sorted sets)。另外还用作缓存和消息中间件。Memcache:这是一个和Redis非常相似的数据库,但是它的数据类型没有Redis丰富。Memcache由LiveJournal的Brad Fitzpatrick开发,作为一套分布式的高原创 2020-09-18 01:34:20 · 305 阅读 · 0 评论 -
mysql主从复制原理理解及锁查询
1、mysql主从复制的流程如上图所示,总的来说,有3个步骤:(1) master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);(2) slave将master的binary log events拷贝到它的中继日志(relay log);(3) slave重做中继日志中的事件,将改变反映它自己的数据。第一部分是master记录二进制日志。在每个事务更新数据完成之前,master在二日志记录这些改变。MySQL原创 2020-08-26 22:54:40 · 367 阅读 · 0 评论 -
PostgreSQL安装配置及常见操作
介绍官网:https://www.postgresql.org/,最新版本:2020-06-25 - PostgreSQL 13 Beta 2 Released!PostgreSQL是一个功能强大的开源对象关系数据库系统,除了免费和开源之外,PostgreSQL也是高度可扩展的。例如,您可以定义自己的数据类型,许多功能(例如索引)都定义了API,构建自定义函数,甚至可以使用不同的编程语言编写代码,而无需重新编译数据库!从2019年10月的12版开始,PostgreSQL符合179种SQL:2016 C原创 2020-08-08 22:23:50 · 938 阅读 · 0 评论 -
MySQL字符串拼接函数介绍
在MySQL中,实现字符串拼接主要有以下3种函数:concat(x,y,…)concat_ws(分隔符,x,y,…)group_concat(distinct xxx order by asd/desc yyy separator ‘分隔符’)一、concat函数concat()函数用于将多个字符串连接成一个字符串格式:concat(str1,str2,…)– mysql conca...转载 2020-03-25 09:27:53 · 6287 阅读 · 0 评论 -
MySQL启动报错:The server quit without updating PID file
【问题描述】某日登录服务器发现从服务器MySQL进程异常,重启MySQL后,报错:ERROR 2002 (HY000): Can’t connect to local MySQL server through socket ;杀掉占用的进程后,再次重启去报错:’/tmp/mysql.sock’ (2)the server quit without updating PID file (/var/...原创 2020-01-09 17:29:26 · 781 阅读 · 0 评论 -
mysq或mariadb5.5.6忘记root密码处理
1、修改配置文件:vi /etc/my.cnfsystemctl stop mariadb;或者:mysqld --skip-grant-tables -uroot -psystemctl start mariadb;2、再次登录MySQL,,此时直接entrance,不需要输入密码就可登陆3、切换到MySQL库,查看user表,修改mysql的root密码并退出mysql:upd...原创 2019-12-13 13:09:34 · 463 阅读 · 0 评论 -
Mysql运维常用命令回顾整理
前景Mysql作为开源数据库的中坚力量之一,虽然目前已被甲骨文收购,面临闭源风险,但是mysql扔是我们运维工作中最常面对的工作,那如何做好mysql运维工作,甚至做好mysql的基础运维,都是维稳业务持久层的关键,故本文收集相关资料整理MySQL运维工作常用的命令,以作记录,供日常运维时参考查证。Mysql运维MySQL运维工作常用命令和操作主要包括:对MySQL数据库状态的查看、性能的优...原创 2019-10-22 16:13:47 · 3783 阅读 · 2 评论 -
Mysql集群配置(回顾)
背景近期,新接手一项目,项目业务系统已上线,但是mysql未完成集群配置,但规划中有相关计划,遂计划在本文中回顾相关Mysql集群配置,也为项目中接下来的集群功能构建思路;集群架构1、Mysql主从集群(最常用)1)主从集群原理:Mysql主从集群主要是为了利用MySQL 的 Replication功能来实现,mysql的主从复制可以保证当服务器发生故障,可以切换到从服务器来确保业务服务......原创 2019-10-21 11:39:24 · 4948 阅读 · 1 评论 -
Mysql运维操作指令复习
运维数据库运维,最常用的莫过于4大技能:增删改查,另外才用更高级的操作;Mysql之查:1)查数据库:show databases;2) 查表:show tabless;3)查表结构:desc tablesname;4)单表查询所有;select * from student;5) 单表查询某字段:select s_name from student;6)单表查询条件限制查...原创 2019-10-15 13:26:24 · 317 阅读 · 1 评论 -
Oracle 11g R2 在linux静默命令行安装失败报错处理
Oracle 11g R2 在linux静默命令行安装失败报错处理【报错信息】oracle安装后查看$oracle_HOME/oraInventory/log/ installActions2019-05-31_07-58-37PM.log,信息如下:信息: Since the option is to overwrite the existing /home/oracle/app/orac...原创 2019-05-31 23:10:05 · 9123 阅读 · 2 评论