lvs负载均衡集群

LVS

1. lvs是什么

LVS,全称Linux Virtual Server,意即Linux虚拟服务器,是一个虚拟的服务器集群系统。
1998年5月由章文嵩博士成立,是中国国内最早出现的自由软件项目之一。
在这里插入图片描述

2. lvs能做什么

  • LVS主要用于多服务器的负载均衡。
  • 工作在网络层,可以实现高性能,高可用的服务器集群技术。
  • 廉价,可把许多低性能的服务器组合在一起形成一个超级服务器。
  • 易用,配置非常简单,且有多种负载均衡的方法。
  • 稳定可靠,即使在集群的服务器中某台服务器无法正常工作,也不影响整体效果。
  • 可扩展性也非常好。

3. 名词解释

VS:Virtual Server 调度器,也叫Director
DS:Director Server,指的是前端负载均衡器节点。
RS:Real Server,后端真实的工作服务器。
VIP:Virtual IP,虚拟IP,公布给用户访问的IP地址。
DIP:Director Server IP,与RS通信的IP。
RIP:Real Server IP,后端主机IP。
CIP:Client IP,客户端IP。

4. lvs体系结构

在这里插入图片描述
使用LVS架设的服务器集群系统有三个组成部分。

  • 最前端负载均衡层,用LoadBalancer表示 。
  • 中间的服务器群组层,用ServerArray表示。
  • 最底层的数据共享存储层,用Share Storage表示。
  1. 前端负载均衡层
    Load Balancer层,位于整个集群系统的最前端。由一台或多台负载调度器(Director Server)组成,LVS模块就安装在调度器上。调度器的作用类似于路由器,它含有完成LVS功能所设定的路由表,通过这些路由表把用户的请求分发给Array Server层的应用服务器(真实服务器)。同时在调度器上,还要安装对真实服务器服务的监控模块Ldirectord,Ldirectord模块用于检测各个真实服务器的健康状况,在真实服务器不可用时把它从LVS路由表剔除,恢复时重新加入

    Director Server是整个LVS集群系统的核心。Linux2.6的内核默认支持LVS功能

  2. 中间服务器群组层
    Array Server层,由一组实际运行的应用服务器/真实服务器组成,真实服务器(Real Server)可以是web服务器,mail服务器,DNS服务器,FTP服务器,视频服务器中的一个或多个。每个真实服务器之间可以通过高速LAN或分布在各地的WAN相连接。在实际应用中,调度器也可以兼任真实服务器的角色。

  3. 底层数据共享存储层
    SharedStorage层,为所有Real Server提供共享存储空间和内容一致性的存储区域。在物理上,一般由磁盘阵列设备组成,为了提供内容一致性,一般通过NFS网络文件系统共享数据,但是NFS在繁忙的业务系统中,性能不是很好,此时可以采用集群文件系统,例如Red Hat的GFS文件系统,oracle提供的OCFS2文件系统。

5. LVS 4种工作模式

5.1 LVS-NAT

在这里插入图片描述

  1. 当用户请求到达DS,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP
  2. PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
  3. IPVS比对数据包请求的服务是否为集群服务,若是,修改数据包的目标IP地址为后端服务器IP,然后将数据包发至POSTROUTING链。 此时报文的源IP为CIP,目标IP为RIP
  4. POSTROUTING链通过选路,将数据包发送给RS
  5. RS比对发现目标为自己的IP,开始构建响应报文发回给DS。 此时报文的源IP为RIP,目标IP为CIP
  6. DS在响应客户端前,此时会将源IP地址修改为自己的VIP地址,然后响应给客户端。 此时报文的源IP为VIP,目标IP为CIP

5.1.1

  • RS应该使用私有地址,RS的网关必须指向DIP
  • DIP和RIP必须在同一个网段内
  • 请求和响应报文都需要经过Director Server,高负载场景中,Director Server易成为性能瓶颈
  • 支持端口映射
  • RS可以使用任意操作系统
  • 缺陷:对Director Server压力会比较大,请求和响应都需经过director server

5.2 LVS-DR

在这里插入图片描述

  1. 当用户请求到达DS,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP
  2. PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
  3. IPVS比对数据包请求的服务是否为集群服务,若是,将请求报文中的源MAC地址修改为DIP的MAC地址,将目标MAC地址修改RIP的MAC地址,然后将数据包发至POSTROUTING链。 此时的源IP和目的IP均未修改,仅修改了源MAC地址为DIP的MAC地址,目标MAC地址为RIP的MAC地址
  4. 由于DS和RS在同一个网络中,所以是通过二层来传输。POSTROUTING链检查目标MAC地址为RIP的MAC地址,那么此时数据包将会发至RS。
  5. RS发现请求报文的MAC地址是自己的MAC地址,就接收此报文。处理完成之后,将响应报文通过lo接口传送给eth0网卡然后向外发出。 此时的源IP地址为VIP,目标IP为CIP
  6. 响应报文最终送达至客户端

5.2.1

  • 特点1:保证前端路由将目标地址为VIP报文统统发给Director Server,而不是RS
  • RS可以使用私有地址;也可以是公网地址,如果使用公网地址,此时可以通过互联网对RIP进行直接访问
  • RS跟Director Server必须在同一个物理网络中
  • 所有的请求报文经由Director Server,但响应报文必须不能进过Director Server
  • 不支持地址转换,也不支持端口映射
  • RS可以是大多数常见的操作系统
  • RS的网关绝不允许指向DIP(因为我们不允许他经过director)
  • RS上的lo接口配置VIP的IP地址
  • 缺陷:RS和DS必须在同一机房中

5.3 LVS-TUN

在这里插入图片描述

  1. 当用户请求到达DS,此时请求的数据报文会先到内核空间的PREROUTING链。 此时报文的源IP为CIP,目标IP为VIP 。
  2. PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
  3. IP为为DIP,目标IP为RIP。然后发至POSTROUTING链。 此时源IP为DIP,目标IP为RIP
  4. POSTROUTING链根据最新封装的IP报文,将数据包发至RS(因为在外层封装多了一层IP首部,所以可以理解为此时通过隧道传输)。 此时源IP为DIP,目标IP为RIP
  5. RS接收到报文后发现是自己的IP地址,就将报文接收下来,拆除掉最外层的IP后,会发现里面还有一层IP首部,而且目标是自己的lo接口VIP,那么此时RS开始处理此请求,处理完成之后,通过lo接口送给eth0网卡,然后向外传递。 此时的源IP地址为VIP,目标IP为CIP
  6. 响应报文最终送达至客户端

5.3.1

  • RIP、VIP、DIP全是公网地址
  • RS的网关不会也不可能指向DIP
  • 所有的请求报文经由Director Server,但响应报文必须不能进过Director Server
  • 不支持端口映射
  • RS的系统必须支持隧道
    企业中最常用的是 DR 实现方式,而 NAT 配置上比较简单和方便。

5.4 LVS-FULLNAT

用户发起请求,源目标CIP/目标VIP
调度发现用户请求需要发送给RS,然后修改源CIP/目标VIP成源DIP/目标RIP(RS1)
RS1收到请求后,将响应报文原路返回,这时源RIP/目标DIP
调度器将响应报文再次修改,最后变成源VIP/目标CIP响应给客户

5.4.1

  • VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络;因此,RIP的网关一般不会指向DIP
  • RS收到的请求报文源地址是DIP,因此,只需响应给DIP;但Director还要将其发往Client
  • 请求和响应报文都经由Director
  • 支持端口映射