keepalived实现nginx的高可用-实战可用

stanley • • Linux干货, 系统运维

Keepalived.conf解析

三大部分: 全局定义块、VRRP 实例定义块及虚拟服务器定义块

实例剖析

! Configuration File for keepalived
 
global_defs {
   notification_email {
     lisongtao@ihuilian.com
     #acassen@firewall.loc
     #failover@firewall.loc
     #sysadmin@firewall.loc
   }
   notification_email_from   sa@ihuilian.com
   smtp_server smtp.exmail.qq.com
   smtp_connect_timeout 30
   router_id LVS_DEVEL  ##自定义的字符串
}
 
   ###在哪里找到自定义配置规范
   #vrrp_script chk_mantaince_down {   #定义可以手动控制状态的脚本
   #    script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
   vrrp_script chk_nginx_down {   #定义可以手动控制状态的脚本
       #script "killall -0 nginx"
       #script "killall -0 nginx && exit 0 || exit 1"
       script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
       interval 1                    #检查时间间隔
       weight - 13                   #如果检测失败，优先级-13
   }
 
 
vrrp_instance VI_1 {
    state MASTER    ###MASTER/BACKUP必须大写,且当MASTER恢复时,会自动恢复为MASTER状态
    interface eth0
    virtual_router_id 51  ###同一个vrrp使用相同的vrrp,整个vrrp内唯一
    priority 100   ###数字越大优先级越高,且要MASTER要高于SLAVE,和sentinel恰好相反...>O<
    advert_int 1   ###Timeout时长秒为单位
    authentication {   ###MASTER和SLAVE密码相同方可正常通信
        auth_type pass
        auth_pass huilian
    }
    virtual_ipaddress { ###每个地址占一行,不能指定子网掩码,与lvs客户端设定的VIP一致
        192.168.65.200
        #192.168.200.17
        #192.168.200.18
    }
 
    ###跟global_defs中定义的vrrp_script chk_mantaince_down对应
    track_script {     #引用自定义的脚本
       chk_nginx_down
    }
    #notify_master "/etc/keepalived/notify.sh master"
    #notify_backup "/etc/keepalived/notify.sh backup"
    #notify_fault "/etc/keepalived/notify.sh fault"
 
}
 
#virtual_server 192.168.65.200  36379{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
virtual_server 192.168.65.200  80{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
    delay_loop 6    ###健康检查时间/秒
    #lb_algo wlc    ###负载均衡调度算法,常用rr/wlc
    lb_algo rr    ###负载均衡调度算法,常用rr/wlc
    lb_kind DR   ###负载均衡转发规则,  DR,NAT,TUN3
    nat_mask 255.255.255.0
    #persistence_timeout 50   ###会话保持时长
    protocol TCP   ###协议类型转发
    #virtualhost www.a.com
 
    real_server 192.168.65.128  80{   ###real server IP PORT
        weight 33   ###数值越大,权重越大
        TCP_CHECK {
            connect_timeout 1       #表示3秒无响应，则超时
            nb_get_retry 3          #表示重试次数
            delay_before_retry 3    #表示重试间隔
        }
    }
    real_server  192.168.65.129 80{
        weight 22
    }
    real_server  192.168.65.130 80{
        weight 11
    }
}

自定义脚本功能测试

配置keepalived.conf

###分发keepalived.conf到slave

# ansible keepalived -m copy  -a 'src=/etc/keepalived/keepalived.conf dest=/etc/keepalived'

01.png

修改优化级和状态

! Configuration File for keepalived
 
global_defs {
   notification_email {
     lisongtao@ihuilian.com
     #acassen@firewall.loc
     #failover@firewall.loc
     #sysadmin@firewall.loc
   }
   notification_email_from   sa@ihuilian.com
   smtp_server smtp.exmail.qq.com
   smtp_connect_timeout 30
   router_id LVS_DEVEL  ##自定义的字符串
}
 
   ###在哪里找到自定义配置规范
   #vrrp_script chk_mantaince_down {   #定义可以手动控制状态的脚本
   #    script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
   vrrp_script chk_nginx_down {   #定义可以手动控制状态的脚本
       #script "killall -0 nginx"
       #script "killall -0 nginx && exit 0 || exit 1"
       script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
       interval 1                    #检查时间间隔
       weight - 13                   #如果检测失败，优先级-13
   }
 
 
vrrp_instance VI_1 {
    state SLAVE    ###MASTER/BACKUP必须大写,且当MASTER恢复时,会自动恢复为MASTER状态
    interface eth1
    virtual_router_id 51  ###同一个vrrp使用相同的vrrp,整个vrrp内唯一
    priority 99   ###数字越大优先级越高,且要MASTER要高于SLAVE,和sentinel恰好相反...>O<
    advert_int 1   ###Timeout时长秒为单位
    authentication {   ###MASTER和SLAVE密码相同方可正常通信
        auth_type pass
        auth_pass huilian
    }
    virtual_ipaddress { ###每个地址占一行,不能指定子网掩码,与lvs客户端设定的VIP一致
        192.168.65.200
        #192.168.200.17
        #192.168.200.18
    }
 
    ###跟global_defs中定义的vrrp_script chk_mantaince_down对应
    track_script {     #引用定义的脚本
       chk_nginx_down
    }
    #notify_master "/etc/keepalived/notify.sh master"
    #notify_backup "/etc/keepalived/notify.sh backup"
    #notify_fault "/etc/keepalived/notify.sh fault"
 
}
 
#virtual_server 192.168.65.200  36379{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
virtual_server 192.168.65.200  80{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
    delay_loop 6    ###健康检查时间/秒
    #lb_algo wlc    ###负载均衡调度算法,常用rr/wlc
    lb_algo rr    ###负载均衡调度算法,常用rr/wlc
    lb_kind DR   ###负载均衡转发规则,  DR,NAT,TUN3
    nat_mask 255.255.255.0
    #persistence_timeout 50   ###会话保持时长
    protocol TCP   ###协议类型转发
    #virtualhost www.a.com
 
    real_server 192.168.65.128  80{   ###real server IP PORT
        weight 33   ###数值越大,权重越大
        TCP_CHECK {
            connect_timeout 1       #表示3秒无响应，则超时
            nb_get_retry 3          #表示重试次数
            delay_before_retry 3    #表示重试间隔
        }
 
    }
    real_server  192.168.65.129 80{
        weight 22
    }
    real_server  192.168.65.130 80{
        weight 11
    }
}

重启slave和master的keepalived

# ansible keepalived -m command -a "service keepalived restart"

02.png

Touch down文件测试

/var/log/message日志信息

Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Script(chk_nginx_down) failed
Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Entering FAULT STATE
Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Now in FAULT state

keepalived实现nginx的高可用-实战可用

VIP信息

keepalived实现nginx的高可用-实战可用

Rm down文件测试

/var/log/message日志信息

Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Script(chk_nginx_down) succeeded
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) prio is higher than received advert
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Transition to MASTER STATE
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Received lower prio advert, forcing new election
Jan 27 19:52:30 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Entering MASTER STATE

keepalived实现nginx的高可用-实战可用

VIP信息

keepalived实现nginx的高可用-实战可用

改造为检测nginx进程

修改master配置

keepalived实现nginx的高可用-实战可用

Stop nginx进程

keepalived实现nginx的高可用-实战可用

/var/log/message日志信息

serJan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: TCP connection to [192.168.65.128]:80 failed !!!
Jan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: Removing service [192.168.65.128]:80 from VS [192.168.65.200]:80
Jan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: Remote SMTP server [0.0.0.0]:25 connected.
Jan 27 20:06:05 Mrds Keepalived_vrrp[9993]: VRRP_Script(chk_nginx_down) failed
Jan 27 20:06:06 Mrds Keepalived_healthcheckers[9992]: SMTP alert successfully sent.
Jan 27 20:06:06 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Entering FAULT STATE
Jan 27 20:06:06 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Now in FAULT state

09.png

VIP信息

VIP资源被抢占

10.png

Start nginx进程

11.png

/var/log/message日志信息

Jan 27 20:08:55 Mrds Keepalived_vrrp[9993]: VRRP_Script(chk_nginx_down) succeeded
Jan 27 20:08:56 Mrds Keepalived_vrrp[9993]: Kernel is reporting: interface eth0 UP
Jan 27 20:08:56 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Transition to MASTER STATE
Jan 27 20:08:57 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Entering MASTER STATE
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: TCP connection to [192.168.65.128]:80 success.
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: Adding service [192.168.65.128]:80 to VS [192.168.65.200]:80
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: Remote SMTP server [0.0.0.0]:25 connected.
Jan 27 20:09:00 Mrds Keepalived_healthcheckers[9992]: SMTP alert successfully sent.

VIP信息

因MASTER优化级最高,VIP资源被抢占回来

12.png

MASTER和1台slave异常,最后一台slave服务器是否还正常

keepalived实现nginx的高可用-实战可用

但会发现lvs池是异常的~~~ 129的nginx应该是异常的.但lvs池没有被剔除

keepalived实现nginx的高可用-实战可用

关闭slave的keepalived尝试

关闭Srds1上的keepalived后,master被正常切换到Srds2上,看来slave和master的功能还是有一定的区别的。

Master可以自动发现自己后端服务的状态,并时刻保持lvs池的最新,但slave是没有这个功能或者没有这个权限的!!。

看来要想完全实现后端服务的高可用要其它方式来实现这个功能的。

15.png

原创文章，作者：stanley，如若转载，请注明出处：http://www.178linux.com/3206

赞 (0)
stanleystanley
0
上一篇 2015-04-14 21:07
下一篇 2015-04-14 23:36

相关推荐

  • linux的文件类型

    linux的文件类型 linux其中的一个哲学思想就是一切皆文件，今天我们就来学习一下linux系统中的文件类型。linux不同于windows，有多种多类的文件类型，文件类型的判断也不是以文件的后缀为标准的。linux中一共有七种文件类型，分别是：普通文件、目录、字符设备文件、块设备文件、套接字文件、命名管道文件和符号链接文件。那么接下来我们就分别看看每种…

    Linux干货 2016-10-27
  • 利用nginx实现基于传输层的四层负载均衡 Linux干货

    利用nginx实现基于传输层的四层负载均衡

    nginx利用ngx_stream_core_module实现四层的负载均衡服务。作为四层负载均衡nginx和lvs的区别在于： lvs工作于内核层，相对来说效率更高，性能更强； nginx工作于用户空间； lvs不会受到套接字数量的限制； nginx作为四层负载均衡也需要监听套接字来和客户端，后台服务器进行连接，会受到套接字数量限制，不过这个问题可以通过k…

    2017-07-03
  • bash的基础特性[更新中] Linux干货

    bash的基础特性[更新中]

    2、bash的工作特性之命令执行状态返回值和命令行展开所涉及的内容及其示例演示。
    3、请使用命令行展开功能来完成以下练习：
    (1)、创建/tmp目录下的：a_c, a_d, b_c, b_d
    (2)、创建/tmp/mylinux目录下的：
    mylinux/
    ├── bin
    ├── boot
    │   └── grub
    ├── dev
    ├── etc
    │   ├── rc.d
    │   │   └── init.d
    │   └── sysconfig
    │   └── network-scripts
    ├── lib
    │   └── modules
    ├── lib64
    ├── proc
    ├── sbin
    ├── sys
    ├── tmp
    ├── usr
    │   └── local
    │   ├── bin
    │   └── sbin
    └── var
    ├── lock
    ├── log
    └── run
    5、如何定义一个命令的别名，如何在命令中引用另一个命令的执行结果？
    6、显示/var目录下所有以l开头，以一个小写字母结尾，且中间至少出现一位数字（可以有其它字符）的文件或目录。
    7、显示/etc目录下，以任意一个数字开头，且以非数字结尾的文件或目录。
    8、显示/etc目录下，以非字母开头，后面跟了一个字母以及其它任意长度任意字符的文件或目录。
    9、在/tmp目录下创建以tfile开头，后跟当前日期和时间的文件，文件名形如：tfile-2016-05-27-09-32-22。
    10、复制/etc目录下所有以p开头，以非数字结尾的文件或目录到/tmp/mytest1目录中。
    11、复制/etc目录下所有以.d结尾的文件或目录至/tmp/mytest2目录中。
    12、复制/etc/目录下所有以l或m或n开头，以.conf结尾的文件至/tmp/mytest3目录中。

    2018-03-17

  • yum详解

    yum YUM: Yellowdog Update Modifier，rpm的前端程序，用来解决软件包相关依赖性，可以在多个库之间定位软件包，up2date的替代工具 yum repository: yum repo，存储了众多rpm包，以及包的相关的元数据文件（放置于特定目录repodata下） yum对软件包的管理机制 —–引用了…

    Linux干货 2016-08-25
  • vsftpd, samba, nfs, mariadb Linux干货

    vsftpd, samba, nfs, mariadb

    2018/2/13 11:45 第十一周

    2018-02-13

  • 优云软件老司机：如何让运维操作更轻松、高效

    讲师介绍 庞辉富 •广通软件技术总监 •拥有10多年IT运维管理软件研发经验 •致力于自动化运维解决方案的研究和推广 •主导研发的产品广泛应用于海关、公安、能源等多个行业 技术发展给运维带来的挑战 当前的IT建设在这些新技术的演进下，我们看到的是呈现“双态IT”特征。Gartner也提出双模IT理论，与现在谈的双态IT是异曲同工的，不再是一种单纯的形态，而是…

    系统运维 2017-01-09
电话咨询
在线咨询