龙果社区 > 博客列表 > 正文

高可用架构篇--MyCat在MySQL主从复制基础上实现读写分离

标签:MyCat,Mysql,JAVA 发布于 2016-12-24 10:57:05

一、环境

操作系统:CentOS-6.6-x86_64-bin-DVD1.iso

JDK版本:jdk1.7.0_45

MyCat版本:Mycat-server-1.4-release-20151019230038-linux.tar.gz

MyCat节点IP192.168.1.203      主机名:edu-mycat-01  主机配置:4CPU4G内存

MySQL版本:mysql-5.6.26.tar.gz

主节点IP192.168.1.205     主机名:edu-mysql-01   主机配置:4CPU4G内存

从节点IP192.168.1.206     主机名:edu-mysql-02   主机配置:4CPU4G内存

 

二、依赖课程

《高可用架构篇--13--MySQL源码编译安装(CentOS-6.6+MySQL-5.6)》

《高可用架构篇--14--MySQL主从复制的配置(CentOS-6.6+MySQL-5.6)》

注意:上一节课中讲到的MySQL主从复制配置,在用MyCat做主从读写分离或其结合实际项目场景应用中,主从复制配置还需要按实际需求情况进行调整。

(调整后的主从数据库my.cnf配置文件,随视频教程压缩包提供)

 

三、MyCat介绍   MyCat官网:http://mycat.org.cn/

MyCat的读写分离是基于后端MySQL集群的主从同步来实现的,而MyCat提供语句的分发功能。MyCat1.4开始支持MySQL主从复制状态绑定的读写分离机制,让读更加安全可靠。

                                              images/486Z66KT6f5CxTHcWNc4EEB6hae7AFZx.jpg

四、MyCat的安装

1、设置MyCat的主机名和IP与主机名的映射

# vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=edu-mycat-01

# vi /etc/hosts

127.0.0.1 edu-mycat-01

192.168.1.203 edu-mycat-01

192.168.1.205 edu-mysql-01

192.168.1.206 edu-mysql-02

 

2、因为MyCat是用Java开发的,因此MyCat运行需要安装JDK(准确来说是JRE就够了),并且需要JDK1.7或以上版本

# vi /etc/profile

## java env

export JAVA_HOME=/usr/local/java/jdk1.7.0_72

export JRE_HOME=$JAVA_HOME/jre

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib/rt.jar

export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

# source /etc/profile

# java -version

 

3、创建mycat用户并设置密码

# useradd mycat

# passwd mycat

 

4、上传安装包 Mycat-server-1.4-release-20151019230038-linux.tar.gz MyCat服务器中的/home/mycat目录,并解压并移动到 /usr/local/mycat目录

$ tar -zxvf Mycat-server-1.4-release-20151019230038-linux.tar.gz

images/5zjYKhNSEFx72WRnbXRKRyKRP3Tc3mPW.png

$ su root

Password:

# mv /home/mycat/mycat  /usr/local/

# cd /usr/local/mycat/

# ll

images/JajXB5dieDDE2dYSHWfKHs3h8NdGp87w.png

 

5、设置MyCat的环境变量

# vi /etc/profile

## mycat env

export MYCAT_HOME=/usr/local/mycat

export PATH=$PATH:$MYCAT_HOME/bin

# source /etc/profile

 

五、配置MyCat

1、在配置MyCat前,请确认MySQL的主从复制安装配置已完成并正常运行。MySQL主从数据的同步在MySQL中配置,MyCat不负责数据同步的问题。

补充:

(1) MySQL主从复制配置中,如果涉及到函数或存储过程的同步复制,需要在/etc/my.cnf中的[mysqld]段中增加配置 log_bin_trust_function_creators=true 或在客户端中设置 set global log_bin_trust_function_creators = 1;

(2) 如果要做读写分离下的主从切换,那么从节点也有可能会变为写节点,因此从节点就不能设置为只读 read_only=1

(3) Linux版本的MySQL,需要设置为MySQL大小写不敏感,否则可能会发生找不到表的问题。可在/etc/my.cnf[mysqld]段中增加 lower_case_table_names=1

 

2、配置MyCatschema.xml

schema.xmlMyCat最重要的配置文件之一,用于设置MyCat的逻辑库、表、数据节点、dataHost等内容,

[mycat@edu-mycat-01 conf]$ cd /usr/local/mycat/conf/

[mycat@edu-mycat-01 conf]$ vi schema.xml

<?xml version="1.0"?>

<!DOCTYPE mycat:schema SYSTEM "schema.dtd">

<mycat:schema xmlns:mycat="http://org.opencloudb/">

      <!-- 定义MyCat的逻辑库,逻辑库的概念与MySQL中的 database 概念相同 -->

      <!-- schema name="rc_schema1" checkSQLschema="false" sqlMaxLimit="100" dataNode="rc_dn1"></schema -->

<!--schema name="pay_schema1" checkSQLschema="false" sqlMaxLimit="100" dataNode="pay_dn1"></schema-->

      <schema name="rc_schema2" checkSQLschema="false" sqlMaxLimit="100" dataNode="rc_dn2"></schema>

      <schema name="pay_schema2" checkSQLschema="false" sqlMaxLimit="100" dataNode="pay_dn2"></schema>

<!-- 其中checkSQLschema表明是否检查并过滤SQL中包含schema的情况,如逻辑库为 TESTDB,则可能写为select * from TESTDB.edu_user,此时会自动过滤TESTDBSQL变为select * from edu_user,若不会出现上述写法,则可以关闭属性为false -->

<!--sqlMaxLimit默认返回的最大记录数限制,MyCat1.4版本里面,用户的Limit参数会覆盖掉MyCatsqlMaxLimit默认设置-->

 

      <!-- 定义MyCat的数据节点 -->

      <!-- dataNode name="rc_dn1" dataHost="dtHost1" database="roncoo" / -->

<!-- dataNode name="pay_dn1" dataHost="dtHost1" database="edu_simple_pay" / -->

      <dataNode name="rc_dn2" dataHost="dtHost2" database="roncoo" />

      <dataNode name="pay_dn2" dataHost="dtHost2" database="edu_simple_pay" />

<!-- dataNode 中的 name 数据表示节点名称, dataHost表示数据主机名称, database表示该节点要路由的数据库的名称 -->

 

      <!-- dataHost配置的是实际的后端数据库集群(当然,也可以是非集群) -->

      <!-- 注意:schema中的每一个dataHost中的host属性值必须唯一,否则会出现主从在所有dataHost中全部切换的现象 -->

      <!-- 定义数据主机dtHost1,只连接到MySQL读写分离集群中的Master节点,不使用MyCat托管MySQL主从切换 -->

      <!--

      <dataHost name="dtHost1" maxCon="500" minCon="20" balance="0"

           writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">

           <heartbeat>select user()</heartbeat>

           <writeHost host="hostM1" url="192.168.1.205:3306" user="root" password="www.roncoo.com" />

      </dataHost>

      -->

      <!-- 使用MyCat托管MySQL主从切换 -->

      <!-- 定义数据主机dtHost2,连接到MySQL读写分离集群,并配置了读写分离和主从切换 -->

      <dataHost name="dtHost2" maxCon="500" minCon="20" balance="1"

           writeType="0" dbType="mysql" dbDriver="native" switchType="2" slaveThreshold="100">

           <!-- 通过show slave status检测主从状态,当主宕机以后,发生切换,从变为主,原来的主变为从,这时候show slave

                 status就会发生错误,因为原来的主没有开启slave,不建议直接使用switch操作,而是在DB中做主从对调。 -->

           <heartbeat>show slave status</heartbeat>

           <!-- can have multi write hosts -->

           <writeHost host="hostM2" url="192.168.1.205:3306" user="root" password="www.roncoo.com" />

           <writeHost host="hostS2" url="192.168.1.206:3306" user="root" password="www.roncoo.com" />

      </dataHost>

      <!-- 参数balance决定了哪些MySQL服务器参与到读SQL的负载均衡中 -->

<!-- balance="0",为不开启读写分离,所有读操作都发送到当前可用的writeHost-->

      <!-- balance="1",全部的readHoststand by writeHost参与select语句的负载均衡-->

      <!-- balance="2",所有读操作都随机的在writeHostreadHost上分发-->

      <!-- MyCat1.4版本中,若想支持MySQL一主一从的标准配置,并且在主节点宕机的情况下,从节点还能读取数据,则需要在MyCat里配置为两个writeHost并设置balance="1" -->

      <!-- writeType="0",所有写操作都发送到可用的writeHost -->

      <!-- writeType="1",仅仅对于galera for mysql集群这种多主多节点都能写入的集群起效,此时Mycat会随机选择一个writeHost并写入数据,对于非galera for mysql集群,请不要配置writeType=1,会导致数据库不一致的严重问题 -->

</mycat:schema>

MyCat1.4开始支持MySQL主从复制状态绑定的读写分离机制,让读更加安全可靠,配置如下:

MyCat心跳检查语句配置为 show slave status ,dataHost 上定义两个新属性:switchType="2" 与 slaveThreshold="100",此时意味着开启MySQL主从复制状态绑定的读写分离与切换机制,MyCat心跳机制通过检测 show slave status 中的

"Seconds_Behind_Master", "Slave_IO_Running", "Slave_SQL_Running" 三个字段来确定当前主从同步的状态以及Seconds_Behind_Master主从复制时延,当Seconds_Behind_Master 大于slaveThreshold时,读写分离筛选器会过滤掉此Slave机器,防止读到很久之前的旧数据,而当主节点宕机后,切换逻辑会检查Slave上的Seconds_Behind_Master是否为0,为0时则表示主从同步,可以安全切换,否则不会切换。

 

3、配置 server.xml

server.xml 主要用于设置系统变量、管理用户、设置用户权限等。

[wusc@edu-mycat-01 conf]$ vi server.xml

<?xml version="1.0" encoding="UTF-8"?>

<!DOCTYPE mycat:server SYSTEM "server.dtd">

<mycat:server xmlns:mycat="http://org.opencloudb/">

      <system>

      <property name="defaultSqlParser">druidparser</property>

<property name="charset">utf8mb4</property>

      <!-- <property name="useCompression">1</property>-->

      <!--1为开启mysql压缩协议-->

      <!-- <property name="processorBufferChunk">40960</property> -->

      <!--

      <property name="processors">1</property>

      <property name="processorExecutor">32</property>

       -->

           <!--默认是65535 64K 用于sql解析时最大文本长度 -->

           <!--<property name="maxStringLiteralLength">65535</property>-->

           <!--<property name="sequnceHandlerType">0</property>-->

           <!--<property name="backSocketNoDelay">1</property>-->

           <!--<property name="frontSocketNoDelay">1</property>-->

           <!--<property name="processorExecutor">16</property>-->

           <!-- <property name="mutiNodeLimitType">1</property> 0:开启小数量级(默认) 1:开启亿级数据排序

                  <property name="mutiNodePatchSize">100</property> 亿级数量排序批量

                 <property name="processors">32</property> <property name="processorExecutor">32</property>

                 <property name="serverPort">8066</property> <property name="managerPort">9066</property>

                 <property name="idleTimeout">300000</property> <property name="bindIp">0.0.0.0</property>

                 <property name="frontWriteQueueSize">4096</property>

<property name="processors">32</property>

           -->

      </system>

      <!-- 用户1,对应的MyCat逻辑库连接到的数据节点对应的主机为MySQL主从复制配置中的Master节点,没实现读写分离,读写都在该Master节点中进行  -->

      <!--

      <user name="user1">

           <property name="password">roncoo.1</property>

           <property name="schemas">rc_schema1,pay_schema1</property>

      </user>

      -->

      <!-- 用户2,对应的MyCat逻辑库连接到的数据节点对应的主机为主从复制集群,并通过MyCat实现了读写分离 -->

      <user name="user2">

           <property name="password">roncoo.2</property>

           <property name="schemas">rc_schema2,pay_schema2</property>

      </user>

      <!-- 用户3,只读权限-->

      <user name="user3">

           <property name="password">roncoo.3</property>

           <property name="schemas">rc_schema2,pay_schema2</property>

           <property name="readOnly">true</property>

      </user>

</mycat:server>

 

4、防火墙中打开80669066端口

MyCat的默认数据端口为8066mycat通过这个端口接收数据库客户端的访问请求。

管理端口为9066,用来接收mycat监控命令、查询mycat运行状况、重新加载配置文件等。

[root@edu-mycat-01 mycat]# vi /etc/sysconfig/iptables

增加:

## MyCat

-A INPUT -m state --state NEW -m tcp -p tcp --dport 8066 -j ACCEPT

-A INPUT -m state --state NEW -m tcp -p tcp --dport 9066 -j ACCEPT

重启防火墙:

[root@edu-mycat-01 mycat]# service iptables restart

 

5、修改log日志级别为debug,以便通过日志确认基于MyCatMySQL数据库集群读写分离的数据操作状态(可以在正式上生产前改成info级别)

[mycat@edu-mycat-01 conf]$ vi /usr/local/mycat/conf/log4j.xml

images/MMGx5wpNjPWhszNzGt7pyJx4iyxmwewa.png

 

6、启动MyCat

[mycat@edu-mycat-01 bin]$ cd /usr/local/mycat/bin/

(1)     控制台启动,这种启动方式在控制台关闭后,MyCat服务也将关闭,适合调试使用:

[mycat@edu-mycat-01 bin]$ ./mycat console

(2) 可以采用以下后台启动的方式:

[mycat@edu-mycat-01 bin]$ ./mycat start

Starting Mycat-server...

(对应的,重启: mycat restart 关闭: mycat stop

 

7MyCat连接测试

(1)     如果本地Windows安装有MySQL,可以使用已有的mysql客户端远程操作MyCat

images/z6KfQ7yAFYMcCEnQe2c8eitnaFhP6BRS.png

images/s3wFNN6iwxDetR6cWYckj6FawJDaS5mA.png

 

(2)     如果为了方便,需要在MyCat主机上对MyCat进行操作(把MyCat当是本地MySQL来操作),可以在MyCat节点主机上安装MySQL客户端:

[mycat@edu-mycat-01 bin]$ su root

[root@edu-mycat-01 bin]# yum install mysql

 

使用安装好的mysql客户端登录MyCat

[mycat@edu-mycat-01 bin]$ mysql -uuser2 -proncoo.2 -h192.168.1.203 -P8066

images/4fTj3BdF3wYNrKm5wSS2xQFm3wYKtjfy.png

images/QPNbpd3BDcFC7ibcXRQKkRarkyEZMtKG.png

[root@edu-mycat-01 mycat]# vi /etc/my.cnf

增加:

[client]

default-character-set=utf8

保存后再查询,乱码问题解决,如下:

images/WmNFBfA4rhmzC5t2x5w267aMat2JyDN4.png

 

(3)     使用第三方MySQL管理客户端连接MyCat测试(navicat支持,MySQL-Front兼容性不太好),以navicat为例:

images/fFiMnpTTRKzeeaTPxKfcMG47tMN43aPP.png

images/tkyGDf2C5ck8ZrDp2eMrERiYD7bBBMaR.png

 

8、读写分离测试

(1) 监听MyCat日志

[mycat@edu-mycat-01 ~]$ cd /usr/local/mycat/logs/

[mycat@edu-mycat-01 logs]$ tail -f mycat.log

 

(2)     读测试

$ mysql -uuser2 -proncoo.2 -h192.168.1.203 -P8066

mysql> show databases;

images/jYTQjdY5jHa8diSXX353dSTZ5J63zDxK.png

mysql> use rc_schema2;

images/BkfSiEQpQbS4zNWd3ykP4GhbtC26yGcs.png

mysql> show tables;

images/GiDRKXeJ632FjhDPt6FZbFie5MFRTrBd.png

mysql> select * from edu_user;

images/ssBteWFwjGhXazpKkJSm3batSbMSpsyX.png

执行上面的查询语句,此时对应的MyCat日志信息如下:

images/EschPNzTYmzjk8kKHAGMdzcJfZcwhc6Z.png

多次执行 select * from edu_user 语句,MyCat打印出来的日志信息显示读操作请求都是路由到Slave节点(192.168.1.206)。

 

(2) 写测试

mysql> insert into edu_user (userName, pwd) values('吴水成', 'roncoo.com');

images/nPyE73875he2XE87cNGy2BtNQyQha6c5.png

执行上面的新增插入语句后,此时对应的MyCat日志信息如下:

images/pmcYQXYeJdGpfa7ATrfDAiinrnQpTKmb.png

多次执行以上插入语句,发现新增数据都是从 Master节点(192.168.1.205)插进入的,并且Slave节点通过Binlog同步了Master节点中的数据。

images/fXabWyYaeEmGxhNDHAAHaMs56KPbsrCC.png images/XyeK5DZxhT3AZknGQdX7NN3AtNJCG5An.png

 

综上,基于MyCat的读写分离集群配置成功。

 

 

接下来计划课程:

MyCat读写分离集群的主从容错(切换)、恢复;

MyCat的高可用集群 HAProxy + Keepalived + MyCat


关注微信:

images/pHjDHHEMSKWep5HZ3pEJCXEcnz2F2BrZ.png


阅读人数(858) (0) 关注(0)
0/5000字

全部评论(0)

1篇文章 | 0关注

注册

找回密码

没有账号?立即注册

注册成功,激活邮件已发送至您的邮箱请注意查收并激活帐号。

如未收到激活邮件,请点击重新发送

正在加载 · · ·