LVS 工作模型和调度算法

简介

  LVSLinux Virtual Server的简写,意即Linux虚拟服务器,是一个虚拟的服务器集群系统。本项目在19985月由章文嵩博士成立,是中国国内最早出现的自由软件项目之一。

LVS是四层负载均衡,也就是说建立在OSI模型的第四层——传输层之上,传输层上有我们熟悉的TCP/UDPLVS支持TCP/UDP的负载均衡

 

什么是负载均衡?

当单台服务器性能不足时我们有两种对其进行扩展的方式, 分别是向上扩展和向外扩展

向上扩展:

向上扩展意思是提升服务器的硬件性能来应对性能不足的问题

向外扩展:

向外扩展意思是新增服务器和现有服务器组成集群来应对性能不足的问题

 

在这两种解决方案中, 我们一般情况下都选择向外扩展

因为向上扩展所付出的代价和得到性能的提升不成正比, 大多时候提升服务器一倍的性能需要花费三倍的价格

向外扩展也有很多问题, 例如:如何协调两台服务器提供一服务, 用户在两台服务器进行轮调时如何保存其的session信息….

 

我们可以将向外扩展数台服务器组成一个负载均衡集群, 前端通过负载均衡调度器来对用户请求通过调度算法合理分发到后端服务器中, 来达到负载均衡的目的.

 

负载均衡有软件和硬件的实现方式

    硬件:F5 BIG IP, NetScaler

    软件:

        传输层: LVS

        应用层: HAproxy, Nginx, Varnish, Perlbal….

 

LVS架构

为了更好地理解LVS, 先解释一下相应的术语:

    Director: 负载均衡调度器, 负责在前端接受用户请求根据特定的算法转发到后端Real Server

    Real Server: 后端提供服务的服务器

    VIP: Director接受用户请求的IP地址

    DIP: DirectorReal Server联系的IP地址

    RIP: Real ServerIP地址

    CIP: Client IP, 客户端的IP地址

 

LVS其实由两个组件组成, 在用户空间的ipvsadm和内核空间的ipvs, ipvs工作在INPUT链上, 如果有请求报文被ipvs事先定义,就会将请求报文直接截取下根据其特定的模型修改请求报文, 再转发到POSTROUTING链上送出TCP/IP协议栈

blob.png

1.当客户端的请求到达负载均衡器的内核空间时,首先会到达PREROUTING链。

 

2.当内核发现请求数据包的目的地址是本机时,将数据包送往INPUT链。

 

3.LVS由用户空间的ipvsadm和内核空间的IPVS组成,ipvsadm用来定义规则,IPVS利用ipvsadm定义的规则工作,IPVS工作在INPUT链上,当数据包到达INPUT链时,首先会被IPVS检查,如果数据包里面的目的地址及端口没有在规则里面,那么这条数据包将被放行至用户空间。

 

4.如果数据包里面的目的地址及端口在规则里面,那么这条数据报文将被修改目的地址为事先定义好的后端服务器,并送往POSTROUTING链。

 

5.最后经由POSTROUTING链发往后端服务器。

 

LVS 工作模型

 

LVS为了在不同场景中使用而提供了4种实现模型: 分别为NAT, DR, TUN, FULLNAT.

 

1.       NAT模型实现原理

blob.png

a)         客户端将请求发往前端的负载均衡器,请求报文源地址是CIP,目标地址为VIP(负载均衡器前端地址)

 

b)        负载均衡器收到报文后,发现请求的是在规则里面存在的地址,那么它将客户端请求报文的目标地址改为了后端服务器的RIP地址并将报文根据算法发送出去。

 

c)         报文送到Real Server后,由于报文的目标地址是自己,所以会响应该请求,并将响应报文返还给LVS

 

d)        然后lvs将此报文的源地址修改vip地址并发送给客户端。

 

实现NAT模型有几点需要注意的:

(1) RS应该和DIP应该使用私网地址,且RS的网关要指向DIP

(2) 请求和响应报文都要经由director转发;极高负载的场景中,director可能会成为系统瓶颈;

(3) 支持端口映射;

(4) RS可以使用任意OS

(5) RSRIPDirectorDIP必须在同一IP网络;

 

2.       DR模型实现原理

blob.png

a)         客户端将请求发往前端的负载均衡器,请求报文源地址是CIP,目标地址为VIP

 

b)        负载均衡器收到报文后,发现请求的是在规则里面存在的地址,那么它将客户端请求报文的源MAC地址改为自己DIPMAC地址,目标MAC改为了RIPMAC地址,并将此包发送给RS

 

c)         RS发现请求报文中的目的MAC是自己,就会将次报文接收下来,处理完请求报文后,将响应报文通过lo接口送给eth0网卡直接发送给客户端。注意:需要设置lo接口的VIP不能响应本地网络内的arp请求。

 

实现DR模型有一个最为关键的问题, 大家都知道Linux主机配置一个IP地址会向本网络进行广播来通告其他主机或网络设备IP地址对应的MAC地址, 那么VIP分别存在于DirectorRS, IP不就冲突了么, 我们该如何解决这个问题?

 

事实上LVS并不能帮助我们解决这个麻烦的问题:

我们有多种方法可以解决上面的问题:

   (1) 网络设备中设置VIP地址和DIrectorMAC地址进行绑定

   (2)  Linux系统中有一个软件可以实现对ARP广播进行过滤, arptables

   (3) 可以修改内核参数来实现, arp_ignore, arp_announce

实现DR模型需要注意的:

(1) 保证前端路由器将目标IPVIP的请求报文发送给director;

 (2) RSRIP可以使用私有地址;但也可以使用公网地址;

(3) RSDirector必须在同一物理网络中;

(4) 请求报文经由Director调度,但响应报文一定不能经由Director

(5) 不支持端口映射;

(6) RS可以大多数OS

(7) RS的网关不能指向DIP

 

3.       TUN模型实现原理

TUN模型通过隧道的方式在公网中实现请求报文的转发, 客户端请求VIP(Director), Director不修改请求报文的源IP和目标IP, 而是在IP首部前附加DIP和对应RIP的地址并转发到RIP, RS收到请求报文, 本地的接口上也有VIP, 遂直接响应报文给CIP

 

TUN的工作流程:

a)         客户端将请求发往前端的负载均衡器,请求报文源地址是CIP,目标地址为VIP

 

b)        负载均衡器收到报文后,发现请求的是在规则里面存在的地址,那么它将在客户端请求报文的首部再封装一层IP报文,将源地址改为DIP,目标地址改为RIP,并将此包发送给RS

 

c)         RS收到请求报文后,会首先拆开第一层封装,然后发现里面还有一层IP首部的目标地址是自己lo接口上的VIP,所以会处理请求报文,并将响应报文通过lo接口送给eth0网卡直接发送给客户端。

 

实现TUN模型需要注意的:

(1) RIP, DIP, VIP全得是公网地址;

(2) RS的网关的不能指向DIP

(3) 请求报文必须经由director调度,但响应报文必须不能经由director

(4) 不支持端口映射;

(5) RSOS必须支持隧道功能;

 

4.       FULLNAT.模型实现原理

FULLNAT是近几年才出现的, 客户端请求VIP(Director), Director修改请求报文的源地址(DIP)和目标地址(RIP)并转发给RS, FULLNAT模型一般是DirectorRS处在复杂的内网环境中的实现

FULLNAT工作流程:

a)         客户端请求VIP

b)        Director接受到请求, 通过调度算法得出转发的RS, 将源地址修改为DIP, 目标地址修改为对应RIP, 转发给RS

c)         RS接受到请求后, 响应请求给DIP, DIP将响应报文源地址改为VIP, 目标地址改为CIP, 响应给CIP

实现FULLNAT模型需要注意的:

(1) VIP是公网地址;RIPDIP是私网地址,二者无须在同一网络中;

(2) RS接收到的请求报文的源地址为DIP,因此要响应给DIP

(3) 请求报文和响应报文都必须经由Director;

(4) 支持端口映射机制;

(5) RS可以使用任意OS

 

LVS的调度算法

1.         静态调度算法(4)

 

1)         RRRound Robin, 轮询 将用户请求轮询到各个RS

2)         WRR: Weighted Round Robin, 加权轮轮询, 根据每一台RS的权重将用户请求轮询分发到各个RS

3)         SH: Source Hash, 源地址哈希, 将同一客户端的请求转发到同一个RS

4)         DH: Destination Hash, 将同一类型的请求转发到同一个RS

 

2.         动态调度算法(6):

 

1)         LCleast connections, 根据最少连接数调度. 公式: Active*256+Inactive

2)         WLCWeighted Least Connections, 加权最少连接数调度. 公式: (Active*256+Inactive)/Weighted

3)         SEDShortest Expection Delay, 最短延迟预期. 公式: (Active+1)*256/Weighted

4)         NQNever Queue, 永不排队, SED算法的改进

5)         LBLCLocality-Based Least-Connections, 基于局部的最少链接, 即为动态的dh算法

6)         LBLCRlocality-based least-connections replication, 带复制功能的lblc

原创文章,作者:liangkai,如若转载,请注明出处:http://www.178linux.com/62669

(0)
liangkailiangkai
上一篇 2016-12-19 13:13
下一篇 2016-12-19 13:58

相关推荐

  • 数据结构-栈和队列

    1.栈 1.1 栈的定义 栈是一种特殊的线性表。其特殊性在于限定插入和删除数据元素的操作只能在线性表的一端进行。如下所示: 结论:后进先出(Last In First Out),简称为LIFO线性表。 栈的基本运算有六种: 构造空栈:InitStack(S)、 判栈空: StackEmpty(S)、 判栈满: StackFull(S)、 …

    Linux干货 2015-04-07
  • fstab配置文件、swap分区,文件关联

    fstab配置文件、swap分区,文件关联,lvm 挂载点和/etc/fstab  配置文件系统体系  被mount、 fsck和其它程序使用  系统重启时保留文件系统体系  可以在设备栏使用文件系统卷标  使用mount -a 命令挂载/etc/fstab中的所有文件…

    Linux干货 2016-09-01
  • N25期–第八周作业

    1、写一个脚本,使用ping命令探测172.16.250.1-172.16.250.254之间的所有主机的在线状态; 在线的主机使用绿色显示; 不在线的主使用红色显示; #!/bin/bash declare -i i=1 hostping(){     if ping -W&n…

    Linux干货 2017-02-27
  • BT雷人的程序语言

    这个世界从来都不会缺少另类的东西,人类自然世界如此,计算机世界也一样。编程语言方面,看过本站《6个变态的C语言Hello World程序》的朋友们一定对BT和另类不会陌生,但那都是些小儿科,真正的BT和另类要是从语言级上来完成。让我们来看看其中一个比较另类的语言BrainFuck。看到这个程序语言的名字,请不要以为这是一个搞笑的语言,这是一个“严肃事情”,请…

    Linux干货 2015-04-03
  • 第四周作业

    cp、grep、sueradd、chmod、vim命令的一些用法

    Linux干货 2017-12-24
  • 逻辑卷LVM的实现

    LVM(Logical Volume Manager,逻辑卷管理)可以实现把多个实体硬盘分区整合在一起,当作一个硬盘来重新操作处理。最重要的是LVM不像传统分区一旦确定分区大小就不能再调整,它允许我们弹性的调整分区及文件系统容量! 通过几道练习题来说明LVM的实现 1、创建一个至少有两个PV组成的大小为20G的名为testvg的VG;要求PE大小为16MB,…

    2017-06-25