keepalived实现nginx的高可用-实战可用

stanley • • Linux干货, 系统运维

Keepalived.conf解析

三大部分: 全局定义块、VRRP 实例定义块及虚拟服务器定义块

实例剖析

! Configuration File for keepalived
 
global_defs {
   notification_email {
     lisongtao@ihuilian.com
     #acassen@firewall.loc
     #failover@firewall.loc
     #sysadmin@firewall.loc
   }
   notification_email_from   sa@ihuilian.com
   smtp_server smtp.exmail.qq.com
   smtp_connect_timeout 30
   router_id LVS_DEVEL  ##自定义的字符串
}
 
   ###在哪里找到自定义配置规范
   #vrrp_script chk_mantaince_down {   #定义可以手动控制状态的脚本
   #    script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
   vrrp_script chk_nginx_down {   #定义可以手动控制状态的脚本
       #script "killall -0 nginx"
       #script "killall -0 nginx && exit 0 || exit 1"
       script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
       interval 1                    #检查时间间隔
       weight - 13                   #如果检测失败，优先级-13
   }
 
 
vrrp_instance VI_1 {
    state MASTER    ###MASTER/BACKUP必须大写,且当MASTER恢复时,会自动恢复为MASTER状态
    interface eth0
    virtual_router_id 51  ###同一个vrrp使用相同的vrrp,整个vrrp内唯一
    priority 100   ###数字越大优先级越高,且要MASTER要高于SLAVE,和sentinel恰好相反...>O<
    advert_int 1   ###Timeout时长秒为单位
    authentication {   ###MASTER和SLAVE密码相同方可正常通信
        auth_type pass
        auth_pass huilian
    }
    virtual_ipaddress { ###每个地址占一行,不能指定子网掩码,与lvs客户端设定的VIP一致
        192.168.65.200
        #192.168.200.17
        #192.168.200.18
    }
 
    ###跟global_defs中定义的vrrp_script chk_mantaince_down对应
    track_script {     #引用自定义的脚本
       chk_nginx_down
    }
    #notify_master "/etc/keepalived/notify.sh master"
    #notify_backup "/etc/keepalived/notify.sh backup"
    #notify_fault "/etc/keepalived/notify.sh fault"
 
}
 
#virtual_server 192.168.65.200  36379{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
virtual_server 192.168.65.200  80{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
    delay_loop 6    ###健康检查时间/秒
    #lb_algo wlc    ###负载均衡调度算法,常用rr/wlc
    lb_algo rr    ###负载均衡调度算法,常用rr/wlc
    lb_kind DR   ###负载均衡转发规则,  DR,NAT,TUN3
    nat_mask 255.255.255.0
    #persistence_timeout 50   ###会话保持时长
    protocol TCP   ###协议类型转发
    #virtualhost www.a.com
 
    real_server 192.168.65.128  80{   ###real server IP PORT
        weight 33   ###数值越大,权重越大
        TCP_CHECK {
            connect_timeout 1       #表示3秒无响应，则超时
            nb_get_retry 3          #表示重试次数
            delay_before_retry 3    #表示重试间隔
        }
    }
    real_server  192.168.65.129 80{
        weight 22
    }
    real_server  192.168.65.130 80{
        weight 11
    }
}

自定义脚本功能测试

配置keepalived.conf

###分发keepalived.conf到slave

# ansible keepalived -m copy  -a 'src=/etc/keepalived/keepalived.conf dest=/etc/keepalived'

01.png

修改优化级和状态

! Configuration File for keepalived
 
global_defs {
   notification_email {
     lisongtao@ihuilian.com
     #acassen@firewall.loc
     #failover@firewall.loc
     #sysadmin@firewall.loc
   }
   notification_email_from   sa@ihuilian.com
   smtp_server smtp.exmail.qq.com
   smtp_connect_timeout 30
   router_id LVS_DEVEL  ##自定义的字符串
}
 
   ###在哪里找到自定义配置规范
   #vrrp_script chk_mantaince_down {   #定义可以手动控制状态的脚本
   #    script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
   vrrp_script chk_nginx_down {   #定义可以手动控制状态的脚本
       #script "killall -0 nginx"
       #script "killall -0 nginx && exit 0 || exit 1"
       script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
       interval 1                    #检查时间间隔
       weight - 13                   #如果检测失败，优先级-13
   }
 
 
vrrp_instance VI_1 {
    state SLAVE    ###MASTER/BACKUP必须大写,且当MASTER恢复时,会自动恢复为MASTER状态
    interface eth1
    virtual_router_id 51  ###同一个vrrp使用相同的vrrp,整个vrrp内唯一
    priority 99   ###数字越大优先级越高,且要MASTER要高于SLAVE,和sentinel恰好相反...>O<
    advert_int 1   ###Timeout时长秒为单位
    authentication {   ###MASTER和SLAVE密码相同方可正常通信
        auth_type pass
        auth_pass huilian
    }
    virtual_ipaddress { ###每个地址占一行,不能指定子网掩码,与lvs客户端设定的VIP一致
        192.168.65.200
        #192.168.200.17
        #192.168.200.18
    }
 
    ###跟global_defs中定义的vrrp_script chk_mantaince_down对应
    track_script {     #引用定义的脚本
       chk_nginx_down
    }
    #notify_master "/etc/keepalived/notify.sh master"
    #notify_backup "/etc/keepalived/notify.sh backup"
    #notify_fault "/etc/keepalived/notify.sh fault"
 
}
 
#virtual_server 192.168.65.200  36379{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
virtual_server 192.168.65.200  80{  ###IP和vrrp_instance中定义的vip需一致,IP  PORT
    delay_loop 6    ###健康检查时间/秒
    #lb_algo wlc    ###负载均衡调度算法,常用rr/wlc
    lb_algo rr    ###负载均衡调度算法,常用rr/wlc
    lb_kind DR   ###负载均衡转发规则,  DR,NAT,TUN3
    nat_mask 255.255.255.0
    #persistence_timeout 50   ###会话保持时长
    protocol TCP   ###协议类型转发
    #virtualhost www.a.com
 
    real_server 192.168.65.128  80{   ###real server IP PORT
        weight 33   ###数值越大,权重越大
        TCP_CHECK {
            connect_timeout 1       #表示3秒无响应，则超时
            nb_get_retry 3          #表示重试次数
            delay_before_retry 3    #表示重试间隔
        }
 
    }
    real_server  192.168.65.129 80{
        weight 22
    }
    real_server  192.168.65.130 80{
        weight 11
    }
}

重启slave和master的keepalived

# ansible keepalived -m command -a "service keepalived restart"

02.png

Touch down文件测试

/var/log/message日志信息

Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Script(chk_nginx_down) failed
Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Entering FAULT STATE
Jan 27 19:40:03 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Now in FAULT state

keepalived实现nginx的高可用-实战可用

VIP信息

keepalived实现nginx的高可用-实战可用

Rm down文件测试

/var/log/message日志信息

Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Script(chk_nginx_down) succeeded
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) prio is higher than received advert
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Transition to MASTER STATE
Jan 27 19:52:29 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Received lower prio advert, forcing new election
Jan 27 19:52:30 Mrds Keepalived_vrrp[6580]: VRRP_Instance(VI_1) Entering MASTER STATE

keepalived实现nginx的高可用-实战可用

VIP信息

keepalived实现nginx的高可用-实战可用

改造为检测nginx进程

修改master配置

keepalived实现nginx的高可用-实战可用

Stop nginx进程

keepalived实现nginx的高可用-实战可用

/var/log/message日志信息

serJan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: TCP connection to [192.168.65.128]:80 failed !!!
Jan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: Removing service [192.168.65.128]:80 from VS [192.168.65.200]:80
Jan 27 20:06:05 Mrds Keepalived_healthcheckers[9992]: Remote SMTP server [0.0.0.0]:25 connected.
Jan 27 20:06:05 Mrds Keepalived_vrrp[9993]: VRRP_Script(chk_nginx_down) failed
Jan 27 20:06:06 Mrds Keepalived_healthcheckers[9992]: SMTP alert successfully sent.
Jan 27 20:06:06 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Entering FAULT STATE
Jan 27 20:06:06 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Now in FAULT state

09.png

VIP信息

VIP资源被抢占

10.png

Start nginx进程

11.png

/var/log/message日志信息

Jan 27 20:08:55 Mrds Keepalived_vrrp[9993]: VRRP_Script(chk_nginx_down) succeeded
Jan 27 20:08:56 Mrds Keepalived_vrrp[9993]: Kernel is reporting: interface eth0 UP
Jan 27 20:08:56 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Transition to MASTER STATE
Jan 27 20:08:57 Mrds Keepalived_vrrp[9993]: VRRP_Instance(VI_1) Entering MASTER STATE
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: TCP connection to [192.168.65.128]:80 success.
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: Adding service [192.168.65.128]:80 to VS [192.168.65.200]:80
Jan 27 20:08:59 Mrds Keepalived_healthcheckers[9992]: Remote SMTP server [0.0.0.0]:25 connected.
Jan 27 20:09:00 Mrds Keepalived_healthcheckers[9992]: SMTP alert successfully sent.

VIP信息

因MASTER优化级最高,VIP资源被抢占回来

12.png

MASTER和1台slave异常,最后一台slave服务器是否还正常

keepalived实现nginx的高可用-实战可用

但会发现lvs池是异常的~~~ 129的nginx应该是异常的.但lvs池没有被剔除

keepalived实现nginx的高可用-实战可用

关闭slave的keepalived尝试

关闭Srds1上的keepalived后,master被正常切换到Srds2上,看来slave和master的功能还是有一定的区别的。

Master可以自动发现自己后端服务的状态,并时刻保持lvs池的最新,但slave是没有这个功能或者没有这个权限的!!。

看来要想完全实现后端服务的高可用要其它方式来实现这个功能的。

15.png

原创文章，作者：stanley，如若转载，请注明出处：http://www.178linux.com/3206

赞 (0)
stanleystanley
0
上一篇 2015-04-14 21:07
下一篇 2015-04-14 23:36

相关推荐

  • 网络基础

    网络小白一个，针对网络的基础知识无从下手，因此本文引用了鸟哥私房菜中的众多概念性知识，在此谢过，本文主要从OSI七层协议，TCP协议和一些网络中专业词汇进行解析，并通过子网掩码的划分，网络接口的配置、路由配置等实例来加深对网络的理解。 一、OSI七层协议：     OSI七层协议的由来：   由于网络链接过程…

    Linux干货 2016-09-07

  • N22-第六周作业

    vim小小的总结 (本总结摘自马哥网络班22期课堂笔记) vim是一款交互式的全屏编辑器，是vi的升级版，在vi上增强了很多，如：多级撤销，多窗口和多缓冲区，语法高亮，在线帮助等。 vim也是一种模式化的编辑器。分别是编辑模式也叫命令模式，输入模式，末行模式。其中使用vim打开文件后默认的是编辑模式。 三种模式之间的转换： 编辑模式—>输入模式 &…

    Linux干货 2016-11-21

  • 运维必备的”武器库”

    作者总结的干货，拿来分享给大家，满满的全是干货 Blog：http://www.simlinux.comWeibo:http://weibo.com/geekwolf Bootstrapping： Kickstart、Cobbler、rpmbuild/xen、kvm、lxc、Openstack、 Cloudstack、Opennebula、Eucalyplu…

    Linux干货 2015-03-13
  • ftp的配置 Linux干货

    ftp的配置

    FTP服务器配置 VSFTP主配置文件路径：/etc/vsftpd/vsftpd.conf，重要参数: anonymous_enable=yes/no 是否允许匿名用户访问 anon_upload_enable=yes/no 是否允许匿名用户上传文件 anon_mkdir_write_enable=yes/no 是否允许匿名用户创建目录 anon_other…

    2017-10-16

  • rpm包管理(二）

    查询查询库文件包查询[select-options][query-options]licdR常用的查询用法：卸载：二进制文件的恢复包效验使用rpm命令导入公钥（KEY文件）验证rpm包来源（光盘）的来源及完整性检查包安装后生成的文件，是否发生过变动RPM包管理器的数据库如果某个rpm相关内容被删除如果rpm命令的包被删除了信息库被删除了删除/usr/bin下…

    Linux干货 2016-09-19

  • Centos Linux基础入门知识类

    Centos Linux基础入门知识类 •1.1Linux终端介绍 •1.2基本命令的使用：ls、pwd、cd。 •1.3 查看系统和BIOS硬件时间。 •1.4 Linux如何获得帮助，Linux关机命令：shutdow、init等。 •1.5 YUM本地源配置与开机自动挂载光盘 前言： 很多学习Linux的同学或多…

    Linux干货 2017-03-26
电话咨询
在线咨询