来普及一下Redis主从复制以及主从复制原理

本人花费半年的时间总结的《Java面试指南》已拿腾讯等大厂offer,已开源在github ,欢迎star!

转载声明:转载请注明出处,本技术博客是本人原创文章

本文GitHub https://github.com/OUYANGSIHAI/JavaInterview 已收录,这是我花了6个月总结的一线大厂Java面试总结,本人已拿大厂offer,欢迎star

原文链接:blog.ouyangsihai.cn >> 来普及一下Redis主从复制以及主从复制原理

点击上方“Java知音”,选择“置顶公众号”

技术文章第一时间送达!

作者:LoyaltyLu segmentfault.com/a/1190000018268350

segmentfault.com/a/1190000018268350

Redis是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库,并提供多种语言的API。从2010年3月15日起,Redis的开发工作由VMware主持。从2013年5月开始,Redis的开发由Pivotal赞助。

概述

在现有企业中80%公司大部分使用的是redis单机服务,在实际的场景当中单一节点的redis容易面临风险。

面临问题

机器故障。我们部署到一台 Redis 服务器,当发生机器故障时,需要迁移到另外一台服务器并且要保证数据是同步的。而数据是最重要的,如果你不在乎,基本上也就不会使用 Redis 了。

容量瓶颈。当我们有需求需要扩容 Redis 内存时,从 16G 的内存升到 64G,单机肯定是满足不了。当然,你可以重新买个 128G 的新机器。

解决办法

要实现分布式数据库的更大的存储容量和承受高并发访问量,我们会将原来集中式数据库的数据分别存储到其他多个网络节点上。

Redis 为了解决这个单一节点的问题,也会把数据复制多个副本部署到其他节点上进行复制,实现 Redis的高可用,实现对数据的冗余备份,从而保证数据和服务的高可用。

主从复制

什么是主从复制

来普及一下Redis主从复制以及主从复制原理

主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(master),后者称为从节点(slave),数据的复制是单向的,只能由主节点到从节点。

默认情况下,每台Redis服务器都是主节点;且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。

主从复制的作用

  • **数据冗余:**主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
  • **故障恢复:**当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
  • **负载均衡:**在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
  • **读写分离:**可以用于实现读写分离,主库写、从库读,读写分离不仅可以提高服务器的负载能力,同时可根据需求的变化,改变从库的数量;
  • **高可用基石:**除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。
  • 主从复制启用

    从节点开启主从复制,有3种方式:

  • **配置文件:** 在从服务器的配置文件中加入:slaveof masterip masterport
  • **启动命令:** redis-server启动命令后加入 --masterip masterport
  • **客户端命令:** Redis服务器启动后,直接通过客户端执行命令:slaveof masterip  。masterport,则该Redis实例成为从节点。
  • 通过 info replication 命令可以看到复制的一些信息

    主从复制原理

    主从复制过程大体可以分为3个阶段:连接建立阶段(即准备阶段)、数据同步阶段、命令传播阶段。

    在从节点执行 slaveof 命令后,复制过程便开始运作,下面图示大概可以看到,从图中可以看出复制过程大致分为6个过程

    来普及一下Redis主从复制以及主从复制原理

    主从配置之后的日志记录也可以看出这个流程

    1)保存主节点(master)信息。

    执行 slaveof 后 Redis 会打印如下日志:

    来普及一下Redis主从复制以及主从复制原理

    2)从节点(slave)内部通过每秒运行的定时任务维护复制相关逻辑,当定时任务发现存在新的主节点后,会尝试与该节点建立网络连接

    来普及一下Redis主从复制以及主从复制原理

    从节点与主节点建立网络连接

    从节点会建立一个 socket 套接字,从节点建立了一个端口为51234的套接字,专门用于接受主节点发送的复制命令。从节点连接成功后打印如下日志:

    来普及一下Redis主从复制以及主从复制原理

    如果从节点无法建立连接,定时任务会无限重试直到连接成功或者执行 slaveof no one 取消复制

    关于连接失败,可以在从节点执行 info replication 查看  master_link_down_since_seconds 指标,它会记录与主节点连接失败的系统时间。从节点连接主节点失败时也会每秒打印如下日志,方便发现问题:

    
    # Error condition on socket for SYNC: {socket_error_reason}
    

    3)发送 ping 命令。

    连接建立成功后从节点发送 ping 请求进行首次通信,ping 请求主要目的如下:

  • 检测主从之间网络套接字是否可用。
  • 检测主节点当前是否可接受处理命令。
  • 如果发送 ping 命令后,从节点没有收到主节点的 pong 回复或者超时,比如网络超时或者主节点正在阻塞无法响应命令,从节点会断开复制连接,下次定时任务会发起重连。

    来普及一下Redis主从复制以及主从复制原理

    从节点发送的 ping 命令成功返回,Redis 打印如下日志,并继续后续复制流程:

    来普及一下Redis主从复制以及主从复制原理

    4)权限验证。如果主节点设置了 requirepass 参数,则需要密码验证,从节点必须配置 masterauth 参数保证与主节点相同的密码才能通过验证;如果验证失败复制将终止,从节点重新发起复制流程。

    5)同步数据集。主从复制连接正常通信后,对于首次建立复制的场景,主节点会把持有的数据全部发送给从节点,这部分操作是耗时最长的步骤。

    6)命令持续复制。当主节点把当前的数据同步给从节点后,便完成了复制的建立流程。接下来主节点会持续地把写命令发送给从节点,保证主从数据一致性。

    END

    Java面试题专栏

    来普及一下Redis主从复制以及主从复制原理

    我知道你 “在看来普及一下Redis主从复制以及主从复制原理

    原文始发于微信公众号(Java知音):

    本人花费半年的时间总结的《Java面试指南》已拿腾讯等大厂offer,已开源在github ,欢迎star!

    转载声明:转载请注明出处,本技术博客是本人原创文章

    本文GitHub https://github.com/OUYANGSIHAI/JavaInterview 已收录,这是我花了6个月总结的一线大厂Java面试总结,本人已拿大厂offer,欢迎star

    原文链接:blog.ouyangsihai.cn >> 来普及一下Redis主从复制以及主从复制原理


     上一篇
    大白话带你梳理一下Dubbo的那些事儿 大白话带你梳理一下Dubbo的那些事儿
    点击上方“Java知音”,选择“置顶公众号” 技术文章第一时间送达! 首先声明,本文并不是什么代码实战类型的文章,适合于想对dubbo有更加全面认识的读者阅读,文章不会过于深奥,只是将一系列的知识点串通起来,帮助读者温故而知新。 RPC服务
    2021-04-05
    下一篇 
    别再说你不会 ElasticSearch 调优了,都给你整理好了 别再说你不会 ElasticSearch 调优了,都给你整理好了
    点击上方“Java知音”,选择“置顶公众号” 技术文章第一时间送达! 译者:Ghost Stories wangnan.tech/post/elasticsearch-how-to/ wangnan.tech/post/el
    2021-04-05