Blog.066 MySQL 主从复制与读写分离

本文主要是介绍Blog.066 MySQL 主从复制与读写分离，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

本章目录

1. 主从复制
　　1.1 MySQL 支持的复制类型
　　1.2 主从复制的工作过程
　　1.3 MySQL 主从复制延迟的原因
2. 读写分离
　　2.1 进行读写分离的原因
　　2.2 读写分离的应用场景
3. 搭建 MySQL 主从复制
　　3.1 搭建步骤
4. 搭建 MySQL 读写分离
　　4.1 搭建步骤

　　　　在实际的生产环境中，对数据库的读和写都在同一个数据库服务器中，是不能满足实际需求的。无论是在安全性、高可用性还是高并发等各个方面都完全不能满足。
　　　　因此，通过主从复制的方式来同步数据，再通过读写分离来提升数据库的并发负载能力。有点类似于rsync，但是不同的是rsync是对磁盘文件做备份，而mysql主从复制是对数据库中的数据、语句做备份。

1. 主从复制
　　1.1 MySQL 支持的复制类型

• STATEMENT∶基于语句的复制。在服务器上执行sql语句，在从服务器上执行同样的语句，mysql默认采用基于语句的复制，执行效率高。
• ROW∶ 基于行的复制。把改变的内容复制过去， 而不是把命令在从服务器上执行一遍。
• MIXED∶混合类型的复制。默认采用基于语句的复制，一旦发现基于语句无法精确复制时，就会采用基于行的复制。

　　1.2 主从复制的工作过程

　　　　（1）Master节点将数据的改变记录成二进制日志（Binary log），当Master上的数据发送改变时，则将其改变写入二进制日志中。
　　　　（2）Slave节点会在一定时间间隔内对Master的二进制日志进行探测其是否发生改变，如果发生改变，则开始一个I/O线程请求Master的二进制事件。
　　　　（3）同时Master节点为每个I/O线程启动一个dump线程，用于向其发送二进制事件，并保存至Slave节点本地的中继日志（Relay log）中，Slave节点将启动SQL线程从中继日志中读取二进制日志，在本地重放，即解析成sql语句逐一执行，使得其数据和Master节点的保持一致，最后I/O线程和SQL线程将进入睡眠状态，等待下一次被唤醒。

　　　　注：
　　　　中继日志通常位于OS缓存中，所以中继日志的开销很小。
　　　　复制过程有一个很重要的限制，即复制在Slave上是串行化的，也就是说Master上的并行更新操作不能在Slave上并行操作。

　　1.3 MySQL 主从复制延迟的原因

• master服务器高并发，形成大量事务；
• 网络延迟；
• 主从硬件设备导致 cpu主频、内存io、硬盘io本来就不是同步复制、而是异步复制。

2. 读写分离

　　　　读写分离基本的原理是让主数据库处理事务性增、改、删操作（INSERT、UPDATE、DELETE），而从数据库处理SELECT查询操作。

　　　　数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。
　　　　读写分离就是只在主服务器上写，只在从服务器上读。基本的原理是让主数据库处理事务性查询，而从数据库处理select查询。

　　　　数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库。

　　2.1 进行读写分离的原因

　　　　因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的；
　　　　但是数据库的“读”(读10000条数据可能只要5秒钟)；
　　　　所以读写分离解决的是数据库的写入。

　　2.2 读写分离的应用场景

　　　　数据库不一定要读写分离，如果程序使用数据库较多时，而更新少，查询多的情况下会考虑使用。

　　　　利用数据库主从同步，再通过读写分离可以分担数据库压力，提高性能。

　　　　目前较为常见的MySQL读写分离分为以下两种：
　　　　（1）基于程序代码内部实现.
　　　　在代码中根据select、 insert 进行路由分类，这类方法也是目前生产环境应用最广泛的。
　　　　优点是性能较好，因为在程序代码中实现，不需要增加额外的设备为硬件开支;缺点是需要开发人员来实现，运维人员无从下手。
　　　　但是并不是所有的应用都适合在程序代码中实现读写分离，像一些大型复杂的Java应用，如果在程序代码中实现读写分离对代码改动就较大。
　　　　（2）基于中间代理层实现
　　　　代理一般位于客户端和服务器之间，代理服务器接到客户端请求后通过判断后转发到后端数据库，有以下代表性程序：

• MySQL-Proxy：MySQL-Proxy 为MySQL开源项目，通过其自带的lua脚本进行SQL判断。
• Atlas：是由奇虎360的Web平台部基础架构团队开发维护的一个基于MySQL协议的数据中间层项目。它是在mysql-proxy0.8.2版本的基础上，对其进行了优化，增加了一些新的功能特性。
• 360内部使用Atlas运行的mysql业务，每天承载的读写请求数达几十亿条。支持事物以及存储过程。
• Amoeba：由陈思儒开发，作者曾就职于阿里巴巴。该程序由Java语言进行开发，阿里巴巴将其用于生产环境。但是它不支事务和存储过程。
• 由于使用MySQL Proxy 需要写大量的Lua脚木，这些Lua并不是现成的，而是需要自己去写。这对于并不熟悉MySQL Proxy内置变量和MySQLProtocol的人来说是非常困难的
• Amoeba是一个非常容易使用、可移植性非常强的软件。因此它在生产环境中被广泛应用于数据库的代理层。

3. 搭建 MySQL 主从复制
　　3.1 搭建步骤

　　　　（1）环境准备

　　　　Master 服务器: 192.168.229.90 mysql5.7
　　　　Slave1 服务器: 192.168.229.80 mysql5.7
　　　　Slave2 服务器: 192.168.229.70 mysql5.7

　　　　（2）主服务器设置

 1 systemctl stop firewalld
 2 systemctl disable firewalld
 3 setenforce 0
 4  
 5 ##主从服务器时间同步设置##<br>yum -y install ntp ntpdate
 6 vim /etc/ntp.conf
 7  
 8 ##末行添加
 9 server 127.127.229.0                                    #设置本地是时钟源，注意修改网段
10 fudge 127.127.229.0 stratum 8                           #设置时间层级为8(限制在15内)　　<br><br>service ntpd start

　　　　（3）NTP 安装

　　　　NTP(Network Time Protocol）网络时间协议基于UDP，用于网络时间同步的协议，使网络中的计算机时钟同步到UTC，再配合各个时区的偏移调整就能实现精准同步对时功能。
　　　　提供NTP对时的服务器有很多，比如微软的NTP对时服务器，利用NTP服务器提供的对时功能，可以使我们的设备时钟系统能够正确运行。

1 ##查看服务器是否安装ntp，系统默认安装ntpdate；
2 rpm -qa | grep ntp　
3 
4 ##安装ntp ntpdate，其中ntpdate默认安装，可以只安装ntp；
5 yum install ntp ntpdate -y (每台都要安装)　　
6 
7 ##修改配置文件，使该NTP服务器在不联网的情况下，使用本服务器的时间作为同步时间,server用来设置上层时间服务器
8 server 127.127.229.0                                    #设置本地是时钟源，注意修改网段
9 fudge 127.127.229.0 stratum 8                           #设置时间层级为8(限制在15内)　　 

　　　　（4）从服务器设置

 1 systemctl stop firewalld
 2 systemctl disable firewalld
 3 setenforce 0
 4  
 5 ##从服务器设置时间同步
 6 yum install -y ntp ntpdate
 7  
 8 service ntpd start
 9  
10 crontab -e                                              #创建定时任务如下      
11 */30 * * * * /usr/sbin/ntpdate 192.168.229.90   

　　　　（5）主服务器 MySQL 设置

 1 vim /etc/my.cnf
 2 ##添加以下配置
 3 server-id = 1                               #修改服务器id为11
 4 log-bin=master-bin                          #添加，主服务器开启二进制日志
 5 binlog_format = MIXED                               #添加，mysql支持的复制类型为MIXED
 6 log-slave-updates=true                              #添加，允许从服务器更新二进制日志
 7  
 8 systemctl restart mysqld.service                            #重启服务器
 9  
10 mysql -uroot -pabc123
11  
12 GRANT REPLICATION SLAVE ON *.* TO 'myslave'@'192.168.229.%' IDENTIFIED BY '12345';      #添加授权，配置slave 访问master的权限，IP为slave服务器IP，myslave为创建的mysql用户名<br>FLUSH PRIVILEGES                                                                                #刷新权限
13 SHOW master status;                                                 #查看主服务状态，如下代表正确
14 +-------------------+----------+--------------+------------------+-------------------+
15 | File              | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
16 +-------------------+----------+--------------+------------------+-------------------+
17 | master-bin.000001 |      604 |              |                  |                   |
18 +-------------------+----------+--------------+------------------+-------------------+
19 1 row in set (0.01 sec)
20 #File列显示日志名，Position 列显示偏移量<br><br>

　　　　（6）从服务器 MySQL 设置

 1 vim /etc/my.cnf
 2 server-id = 2                                                   #修改，注意id与Master的不同，两个Slave的id也要不同
 3 relay-log=relay-log-bin                                         #添加，开启中继日志，从主服务器上同步日志文件记录到本地
 4 relay-log-index=slave-relay-bin.index                           #添加，定义中继日志文件的位置和名称
 5 <br>systemctl restart mysqld.service<br><br>mysql -u root -pabc123
 6 ##配置同步，注意master_log_file和master_log_pos的值要与Master查询的一致
 7 change master to master_host='192.168.229.90' , master_user='myslave',master_password='12345',master_log_file='master-bin.000001',master_log_pos=604;
 8  
 9 start slave;                                    #启动同步，如有报错执行reset slave;
10 show slave status\G                             #查看Slave状态
11 #确保下面IO和SQL线程都是Yes，代表同步正常。
12 Slave_IO_Running: Yes                           #负责与主机的io通信        
13 Slave_SQL_Running: Yes                          #负责自己的slave mysql进程

　　　　一般 Slave_IO_Running: No 的可能性：

• 网络不通
• my. cnf配置有问题
• 密码、file文件名、pos偏移量不对
• 防火墙没有关闭

4. 搭建 MySQL 读写分离
　　4.1 搭建步骤

　　　　（1）环境准备

　　　　Master 服务器: 192.168.229.90 mysql5.7
　　　　Slave1 服务器: 192.168.229.80 mysql5.7
　　　　Slave2 服务器: 192.168.229.70 mysql5.7
　　　　Amoeba 服务器：192.168.229.50 JDK1.6、Amoeba
　　　　客户端 ： 192.168.229.60 mysql5.7

　　　　（2）Amoeba 服务器设置
　　　　①：安装Java环境

 1 因为Amoeba基于是jdk1.5 开发的，所以官方推荐使用jdk1.5 或1.6版本，高版本不建议使用。
 2 
 3 cd /opt/
 4 cp jdk-6u14-1inux-x64.bin /usr/local/
 5 cd /usr/local/
 6 chmod +x jdk-6u14-linux-x64
 7 ./jdk-6u14-linux-x64.bin
 8 //按yes，按enter
 9  
10 mv jdk1.6.0_14/ /usr/local/jdk1.6
11  
12 vim /etc/profile.d/java.sh
13 export JAVA_HOME=/usr/local/jdk1.6
14 export CLASSPATH=$CLASSPATH:$JAVA_HOME/lib:$JAVA_HOME/jre/lib
15 export PATH=$JAVA_HOME/lib:$JAVA_HOME/jre/bin/:$PATH:$HOME/bin
16 export AMOEBA_HOME=/usr/local/amoeba
17 export PATH=$PATH:$AMOEBA_HOME/bin
18  
19 source /etc/profile.d/java.sh
20 java -version

　　　　②：安装Amoeba软件

1 mkdir /usr/local/amoeba
2 tar zxvf amoeba-mysql-binary-2.2.0.tar.gz -C /usr/local/amoeba/
3 chmod -R 755 /usr/local/amoeba/
4 /usr/local/amoeba/bin/amoeba
5 / /如显示amoeba start |stop说明安装成功

　　　　③：配置Amoeba读写分离，两个Slave负载均衡

1 ##先在Master、Slave1、 Slave2 的mysql上开放权限给Amoeba 访问
2 grant all on *.* to 'test'@'192.168.229.%' identified by '12345';

 1 cd /usr/local/amoeba/conf/
 2  
 3 cp amoeba.xml amoeba.xml.bak
 4 vim amoeba.xml  #修改amoeba配置文件
 5 --30行--
 6 <property name="user">amoeba</property>
 7 --32行--
 8 <property name="password">123456</property>
 9 --115行--
10 <property name="defaultPool">master</property>
11 --117-去掉注释-
12 <property name= "writePool">master</property>
13 <property name= "readPool">slaves</property>
14  
15 cp dbServers.xml dbServers.xml.bak
16 vim dbServers.xml  #修改数据库配置文件
17 --23行--注释掉 作用:默认进入test库 以防mysq1中没有test库时， 会报错
18 <!-- <property name= "schema">test</property> -->
19 --26--修改
20 ##再回到amoeba服务器配置amoeba服务
21 
22 <property name="user">test</property>
23 --28-30--去掉注释，然后再把28行注释或删除
24 <property name="password"> 12345</property>
25 --45--修改， 设置主服务器的名Master
26 <dbServer name="master" parent="abstractServer">
27 --48--修改，设置主服务器的地址
28 <property name="ipAddress">192.168.229.90</property>
29 --52--修改， 设置从服务器的名slave1
30 <dbServer name="slave1" parent="abstractServer">
31 --55--修改，设置从服务器1的地址
32 <property name="ipAddress">192.168.229.80</property>
33 --58--复制.上面6行粘贴，设置从服务器2的名slave2和地址
34 <dbServer name="slave2" parent="abstractServer">
35 <property name="ipAddress">192.168.229.70</property>
36 --65行--修改
37 <dbServer name="slaves" virtual="true">
38 --71行--修改
39 <property name="poolNames">slave1,slave2</property><br>
40 /usr/local/amoeba/bin/amoeba start&  #&表示交给后台启动
41 #启动Amoeba软件，按ctrl+c 返回
42 netstat -anpt | grep java
43 #查看8066端口是否开启，默认端口为TCP 8066

　　　　（3）测试读写分离

 1 yum install -y mariadb-server mariadb
 2 systemctl start mariadb.service
 3  
 4 在客户端服务器上测试:
 5 mysql -u amoeba -p12345 -h 192.168.229.50 -P8066
 6 //通过amoeba服务器代理访问mysql，在通过客户端连接mysql后写入的数据只有主服务会记录，然后同步给从--从服务器
 7 <br>在主服务器上:
 8 use db_test;
 9 create table test (id int (10),name varchar (10),address varchar(20) );
10  
11 在两台从服务器上:
12 stop slave;   #关闭同步
13 use db_test;
14 / /在slave1上:
15 insert into test values('1','zhangsan','this is slave1') ;
16  
17 //在slave2上:
18 insert into test values('2','lisi','this is slave2');
19  
20 //在主服务器上:
21 insert into test values('3', 'wangwu', 'this is master');
22  
23 //在客户端服务器上:
24 use db_test;
25 select * from test;
26 //客户端会分别向slave1和slave2读取数据，显示的只有在两个从服务器上添加的数据，没有在主服务器.上添加的数据
27  
28 insert into test values('4','qianqi','this is  client') ;
29 //只有主服务器上有此数据
30  
31 //在两个从服务器上执行startslave;即可实现同步在主服务器上添加的数据
32 start slave;

-

这篇关于Blog.066 MySQL 主从复制与读写分离的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！