您现在的位置是:首页 >其他 >MySQL主从复制与读写分离网站首页其他

MySQL主从复制与读写分离

R1chArd_TvT 2024-06-16 18:01:02
简介MySQL主从复制与读写分离

案例概述

在企业应用中,成熟的业务通常数据量都比较大

单台MySQL在安全性、高可用性和高并发方面都无法满足实际的需求

配置多台主从数据库服务器以实现读写分离

什么是读写分离?

读写分离,基本的原理是让主数据库处理事务性增、删操作,从而数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

为什么要读写分离?

因为数据库“写”操作是比较耗时的。

但数据库的“读”很快。

所以读写分离,解决的是数据库的写入影响查询(读)的效率。

什么时候要读写分离?

数据库不一定要读写分离,如果程序使用数据库较多时,而更新较少,查询多的情况下会考虑使用。利用数据库的主从同步,再通过读写分离可以分担数据库压力,提高性能。

主从复制与读写分离

在实际的生产环境中,对数据库的读和写都在同一个数据库服务器中,是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都是不能完全满足实际需求的。因此,通过主从复制的方式来同步数据,再通过读写分离来提升数据库的并发负载能力。有点类似于rsync,但是不同的是rsync是对磁盘文件做备份,而mysql主从复制是对数据库中的数据、语句做备份。

MySQL支持的复制类型

1)STATEMENT:基于语句的复制。在服务器上执行sql语句,在从服务器上执行同样的语句,mysql默认采用基于语句的复制,执行效率高。

2)ROW:基于行的复制。把改变的内容复制过去,而不是把命令在从服务器上执行一遍。

3)MIXED:混合类型的复制。默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

主从辅助的工作过程

1)Master节点将数据的改变记录成二进制日志(bin log),当Master上的数据发生改变时,则将其改变写入二进制日志中。

2)Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变,如果发生改变,则开始一个I/O线程请求Master的二进制事件

3)同时Master节点为每个I/O线程启动一个dump线程,用于向其发送二进制事件,并保存至Slave节点本地的中继日志(Relay log)中,Slave节点将启动SQL线程从中继日志中读取二进制日志,在本地重放,即解析成SQL语句逐一执行,使得其数据和Master节点的保持一致,最后I/O线程和SQL线程将进入睡眠状态,等待下一次被唤醒。

ps:

  • 中继日志通常会位于OS缓存中,所以中继日志的开销很小
  • 复制过程有一个很重要的限制,即复制在Slave上是串行化,也就是说Master上的并行更新操作不能在Slave上并行操作。

 

 

主服务器会开启二进制日志,从服务器会开启中继日志。数据的写入操作在主服务器上进行,会更新到二进制日志中。从服务器开启I/O线程,向主请求二进制记录、事件。主为每个IO线程开启dump线程,向从发送二进制日志事件。从保存到二进制日志事件到中继日志。从开启SQL线程读取中继日志中的二进制事件并解析成sql语句进行重放、逐一执行。实现主从数据同步。

(MySQL优化)双1设置:

适合数据安全性要求非常高,而且磁盘IO写能力足够支持的业务,比如订单、交易、充值、支付消费系统。“双1模式”下,当磁盘IO无法满足业务需求时,比如11.11活动的压力.推荐一下性能较快的设置,并使用带蓄电池后备电池,防止系统断电异常。

innodb_flush_logs_at_trx_commit=1

log(事务日志)的刷盘策略,每次事务提交时MySQL都会把事务日志缓存区的数据写入日志文件中,并且刷新到磁盘中,该模式为系统默认。

sync_binlog=1

在进行每一次事务提交(写入二进制日志)以后,MySQL将执行一次fsync的磁盘同步指令,将缓冲区数据刷新到磁盘。

 

一般Slave_IO_Running:NO的可能性:

1、网络不通

2、my.cnf配置有问题

3、密码、file文件名、pos偏移量不对

4、防火墙没有关

MySQL主从复制延迟:

1、master服务网高并发

2、网络延迟

3、主从硬件设备导致(cpu主频、内存io、硬盘io)

4、是同步复制,而不是异步复制

从库优化MySQL参数,不如:增大innodb_buffer_pool_size,让更多操作在MySQL内存中完成,减少磁盘操作。

从库使用高性能主机,包括:cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了I/O方面性。

从库使用SSD磁盘

网络优化,避免跨机房实现同步。

 

MySQL主从复制的几个同步模式:

异步复制(Asynchronous replication)

MySQL默认的复制即是异步的,主库在执行完客户端提交的事务后会立即将结果返给客户端,并不关心从库是否接收并处理,这样就会有一个问题,如果crash掉了,此时主上已经提交的事务可能并没有传到从上,如果此时,强行将从提升为主,可能导致新主的数据不完整。

全同步复制(Fully Synchronous replication)

指当主库执行完一个事务,所有的从库都执行了该事务才返回给客户端。因为需要等待所有从库执行完该事务才能返回,所以全同步复制的性能必然会受到严重的影响。

半同步复制(Semisynchronous replication)

介于异步复制和全同步复制之间,主库在执行完客户端提交的事务后不是立即返回给客户端,而是等待至少一个从库接收到并写到relay log中才返回给客户端。相对于异步复制,半同步复制提高了数据的安全性,同时它也造成了一定程度的延迟,这个延迟最少是一个TCP/IP往返的时间。所以,半同步复制最好在低延时的网络中使用。

公司用的异步复制还是半同步复制?

在超时时间内,没收到从服务器回复,半同步复制就会降为异步复制;在后面的事务提交后,从服务器回复了,主服务器又会回到半回复复制。

在一主多从的架构中,如果要开启半同步复制,并不要求所有的从都是半同步复制。

MySQL5.7极大的提升了半同步复制的性能:

5.6版本德本同步复制,dump thread承担了两份不同且有十分频繁的任务:传送给binlog给slave,还需要等待slave反馈信息,而且这两个个任务是串行的,dump thread必须等待slave返回之后才会传送下一个events事务。dump thread已然成为整个半同步提高性能的瓶颈。高并发业务场景下,这样的机制会影响数据库整体的系统吞吐量(TPS)。

5.7版本的半同步复制中,独立出一个ack collector thread,专门用于接收slave的反馈信息。这样,master上有两个线程独立工作,可以同时发送 binlog 到 slave ,和接收 slave 的反馈。

读写分离

读写分离就是指在住服务器上写,只在从服务器上毒。基本的原理是让主数据库处理事务性操作,而从数据库处理select查询。数据库复制被用来把主数据库上事务性操作导致的变更同步到集群中的从数据库。

常见的MySQL读写分为两种:

1)给予程序代码内部实现

在代码中根据select、insert进行路由分类,这类方法也是目前生产环境应用最为广泛的。

优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现,运维人员无从下手。

但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。

2)基于中间代理层实现

代理一般位于客户端和服务器之间,代理服务器接到客户端请求后通过判断后转发到后端数据库,有以下代表性程序。

(1)MySQL-Proxy为MySQL开源项目,通过其自带的lua脚本进行SQL判断

(2)Atlas 是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy0.8.2版本的基础上,对其进行了优化,增加了一些新的功能特性。

(3)Amoeba 该程序由Java语言进行开发,阿里巴巴将其用于生产环境。但是它不支持事务和存储过程。

(4)Mycat 是一款流行的基于Java语言编写的数据库中间件,是一个实现了Mysql协议的服务器,其核心功能是分库分表。配合数据库的主从模式还可以实现读写分离。

风语者!平时喜欢研究各种技术,目前在从事后端开发工作,热爱生活、热爱工作。