目录 二、常见的Web集群调度器 2。负载均衡策略与调度算法 3。nginx和LVS和Haproxy的区别 4。添加haproxy系统服务 (2)配置本地源安装nginx 7。haproxy服务器验证 五、haproxy集群日志重新定义 六、haproxykeepalivednginx 1。配置主服务器(haproxykeepalived) 2。配置备用服务器(haproxykeepalived) (1)准备环境:关闭防火墙一、haproxy介绍1。定义 haproxy是一款提供高可用性、负载均衡以及基于TCP(第四层)和HTTP(第七层)应用的代理软件,支持虚拟主机,它是免费、快速并且可靠的一种解决方案。2。作用 haproxy特别适用于那些负载特大的web站点,这些站点通常又需要会话保持或七层处理。haproxy运行在时下的硬件上,完全可以支持数以万计的并发连接。并且它的运行模式使得它可以很简单安全的整合进您当前的架构中,同时可以保护你的web服务器不被暴露到网络上。二、常见的Web集群调度器 Web集群调度器分为软件和硬件: (1)软件通常使用开源的LVS、haproxy、Nginx。 (2)硬件一般有F5、绿盟和深信服等。 (3)LVS性能最好,但是搭建相对复杂;Nginx的upstream模块支持集群功能,但是对集群节点健康检查功能不强,高并发没有Haproxy好。 (4)硬件一般使用的比较多的是F5。三、haproxy集群应用 LVS在企业中抗负载能力很强,但存在不足: (1)LVS不支持正则处理,不能实现动静分离。 (2)对于大型网站LVS的事实配置较为复杂,维护成本相对较高。 (3)haproxy是一款可以供高可用性、负载均衡和基于TCP和HTTP应用的代理软件。 (4)适用于负载较大的Web站点。 (5)运行在硬件上可支持数以万计的并发连接请求。1。haproxy的特性 (1)可靠性和稳定性非常好,可以与硬件级的F5负载均衡设备相媲美 (2)最高可以同时维护4000050000个并发连接,单位时间内处理的最大请求数为20000个,最大处理能力可达10Gits (3)支持多达8种负载均衡算法,同时也支持会话保持 (4)支持虚拟主机功能,从而实现web负载均衡更加灵活 (5)支持连接拒绝、全透明代理等独特功能 (6)拥有强大的ACL支持,用于访问控制 (7)其独特的弹性二叉树数据结构,使数据结构的复杂性上升到了0(1),即数据的查询速度不会随着数据条目的增加而速度有所下降 (8)支持客户端的keepalive功能,减少客户端与haproxy的多次三次握手导致资源浪费,让多个请求在一个tcp连接中完成 (9)支持TCP加速,零复制功能,类似于mmap机制 (10)支持响应池(responsebuffering) (11)支持RDP协议 (12)基于源的粘性,类似于nginx的iphash功能,把来自同一客户端的请求在一定时间内始终调度到上游的同一服务器 (13)更好统计数据接口,其web接口显示后端冀全中各个服务器的接受、发送、拒绝、错误等数据的统计信息 (14)详细的健康状态检测,web接口中有关对上流服务器的健康检测状态,并提供了一定的管理功能 (15)基于流量的健康评估机制 (16)基于http认证 (17)基于命令行的管理接口 (18)日志分析器,可对日志进行分析2。负载均衡策略与调度算法 (1)轮询调度(RoundRobin)RR: RR算法是最简单最常用的一种算法,即轮询调度。 (2)权重轮询staticrr: 对高性能节点提高优先级即提高权重,使高性能节点处理的更多,减轻低性能节点负担。 (3)最小连接数算法LC(LeastConnections): 根据后端的节点连接数大小动态分配前端请求。 (4)基于来源访问调度算法SH(SourceHashing): 用于一些有Session会话记录在服务端的场景,可以基于哈希算法对来源的IP、Cookie等做集群调度。 此调度算法好处是实现会话保持,但某些IP访问量非常大时会引起负载不均衡,部分节点访问量超大,影响业务使用。 (5)URL: 表示根据请求的URI,做cdn需使用。 (6)urlparam: 表示根据HTTP请求头来锁定每一次HTTP请求。 (7)rdpcookie(name): 表示根据据cookie(name)来锁定并哈希每一次TCP请求。 (8)source: 表示根据请求的源IP,类似Nginx的IPhash机制。 (9)staticrr 表示根据权重,轮询分配。3。nginx和LVS和Haproxy的区别(1)LVS 1)基于第三方应用实现的软负载均衡。 2)只能实现4层的IP负载均衡技术,状态监测功能单一,但整体负载均衡性能最强。(2)nginx 1)基于第三方应用实现的软负载均衡。 2)可以实现4层和7层技术。 3)主要用于Web服务器或缓存服务器,nginx的upstrean模块虽然也支持群集功能,但是对群集节点健康检查功能不强,性能没有Haproxy好。(3)haproxy 1)基于linux操作系统内核实现软负载均衡。 2)可以提供TCP和HTTP应用的负载均衡综合解决方案。 3)在状态监测方面功能更丰富、更强大,可支持端口、URL、脚本等多种状态监测方式。 4)Haproxy支持TCP协议的负载均衡转发。 5)Haproxy支持8种负载均衡器策略。 注意:1。基于系统内核还是第三方应用2。工作在4层还是七层3。监测状态。 2。LVS基于操作系统内核实现软负载均衡,nginx和haproxy都是基于第三方应用实现。 3。LVS可实现4层ip负载均衡技术,4层中LVS负载均衡最强,nginx和haproxy都可以实现四层和七层。 4。LVS状态监测功能单一,haproxy状态监测方面功能强大,可支持,端口,URL,脚本状态监测,nginx主要是web服务器或者缓存服务器,虽然也有upstream模块支持集群功能,但是对节点的健康检查不强。四、haproxynginxhaproxy搭建web集群1。环境准备haproxy服务器192。168。22。128nginx1服务器192。168。22。228nginx2服务器192。168。22。126客户端192。168。22。100 (1)关闭防火墙systemctlstopfirewalldsystemctldisablefirewalldsetenforce0 (2)安装依赖包yumyinstallpcredevelzlibdevelgccgcccmake 2。编译安装haproxytarxzvfhaproxy1。5。19。tar。gz解压安装包cdhaproxy1。5。19makeTARGETlinux2628ARCHx8664进行编译(TARGETlinux2628表示内核版本,使用unamer查看内核,如:2。6。18371。el5,此时该参数用TARGETlinux26;kernel大于2。6。28的用TARGETlinux2628)(ARCHx8664系统位数,现在基本都是64位)makeinstall安装unamer查看版本 3。修改配置文件mkdiretchaproxycpopthaproxy1。5。19exampleshaproxy。cfgetchaproxycdetchaproxyvimhaproxy。cfgglobal全局配置,主要用于定义全局参数,属于进程级的配置,通常和操作系统配置有关45行修改,配置日志记录,local0为日志设备,默认存放到系统日志logdevloglocal0infologdevloglocal0noticelogloghostlocal0infomaxconn4096最大连接数,需考虑ulimitn限制8行注释,chroot(改变根目录),为该服务自设置的根目录,一般需将此行注释掉chrootusrsharehaproxyuid99用户UIDgid99用户GIDdaemon守护进程模式nbproc1添加,设置并发进程数,建议与当前服务器CPU核数相等或为其2倍defaults配置默认参数,这些参数可以被用到Listen,frontend,backend组件logglobal引入global定义的日志格式modehttp模式为http(7层代理http,4层代理tcp)optionhttplog日志类别为http日志格式optiondontlognull不记录健康检查日志信息retries3检查节点服务器失败次数,连续达到三次失败,则认为节点不可用Redispatch当服务器负载很高时,自动结束当前队列处理比较久的连接maxconn2000最大连接数,defaults中的值不能超过global段中的定义contimeout5000设置连接超时时间,默认单位是毫秒clitimeout50000设置客户端超时时间,默认单位是毫秒srvtimeout50000设置服务器超时时间,默认单位是毫秒timeouthttprequest10s默认http请求超时时间timeoutqueue1m默认队列超时时间timeoutconnect10s默认连接超时时间,新版本中替代contimeout,该参数向后兼容timeoutclient1m默认客户端超时时间,新版本中替代clitimeout,该参数向后兼容timeoutserver1m默认服务器超时时间,新版本中替代srvtimeout,该参数向后兼容timeouthttpkeepalive10s默认持久连接超时时间timeoutcheck10s设置心跳检查超时时间删除下面所有listen项,添加listenwebcluster0。0。0。0:80haproxy实例状态监控部分配置,定义一个名为webcluster的应用optionhttpchkGETindex。html检查服务器的index。html文件此处文件名需要与后面节点服务器页面文件名一致balanceroundrobin负载均衡调度算法使用轮询算法roundrobinserverinst1192。168。22。228:80checkinter2000fall3定义在线节点serverinst2192。18。22。126:80checkinter2000fall3参数说明balanceroundrobin负载均衡调度算法轮询算法:roundrobin;最小连接数算法:leastconn;来源访问调度算法:source,类似于nginx的iphashcheckinter2000表示启用对此后端服务器执行健康检查,设置健康状态检查的时间间隔,单位为毫秒fall3表示连续三次检测不到心跳频率则认为该节点失效若节点配置后带有backup表示该节点只是个备份节点,仅在所有在线节点都失效该节点才启用。不携带backup,表示为主节点,和其它在线节点共同提供服务。 4。添加haproxy系统服务cpopthaproxy1。5。19exampleshaproxy。initetcinit。dhaproxychmodxetcinit。dhaproxychkconfigaddetcinit。dhaproxy添加到系统管理中lnsusrlocalsbinhaproxyusrsbinhaproxyservicehaproxystart或etcinit。dhaproxystart如果ningx服务器未部署会提示找不到web服务器,可以等web部署完后再开启haproxy 5。nginx服务器(1)安装ngisystemctlstopfirewalldsystemctldisablefirewalldsetenforce0useraddMssbinnologinnginxyumyinstallgccgcccpcredevelzlibdevelmaketarxzvfnginx1。15。9。tar。gzcdnginx1。15。9。configureprefixusrlocalnginxusernginxgroupnginxwithhttpstubstatusmodulemakemakeinstallnsusrlocalnginxsbinnginxusrlocalsbinvimlibsystemdsystemnginx。service〔Unit〕DescriptionnginxAfternetwork。target〔Service〕TypeforkingPIDFileusrlocalnginxlogsnginx。pidExecStartusrlocalnginxsbinnginxExecReloadusrbinkillsHUPMAINPIDExecStopusrbinkillsQUITMAINPIDPrivateTmptrue〔Install〕WantedBymultiuser。targetchmod754libsystemdsystemnginx。servicesystemctlstartnginxnetstatanutpgrepnginxnginxt (2)配置本地源安装nginxcdetcyum。repos。dmkdirrepo。bakmv。reporepo。bakvimnginx。repo〔nginx〕namenginx。repobaseurlhttps:nginx。orgpackagescentos7basearchenabled1gpgcheck0yumcleanallyummakecacheyumyinstallnginxsystemctlstartnginxnetstatntapgrepnginxrpmqlnginx (3)配置页面 6。httpd服务器(1)关闭防火墙systemctlstopfirewalldsystemctldisablefirewalldsetenforce0 (2)安装httpdyumyinstallhttpdsystemctlstarthttpd (3)配置页面cdvarwwwhtmlvimindex。html 7。haproxy服务器验证servicehaproxystopservicehaproxystart重新关闭后再次开启HAproxy服务在进行访问 五、haproxy集群日志重新定义 默认haproxy的日志是输出到系统的syslog中,查看起来不是非常方便,为了更好的管理haproxy的日志,我们在生产环境中一般单独定义出来,需要将haproxy的info及notice日志分别记录到不同的日志文件中。 需要修改rsyslog配置,为了编译管理,将haproxy相关的配置独立定义到haproxy。conf,并放到etcrsyslog。d下。rsyslog启动时会自动加载此目录下的所有配置文件。vimetchaproxyhaproxy。cfg更改日志文件globallogdevloglocal0info节点服务器正常访问时的日志文件logdevloglocal1notice断掉一个节点服务器再次开启时的日志记录重启haproxy服务servicehaproxyrestart为了便于管理将haproxy相关的配置独立定义到haproxy。confvimetcrsyslog。dhaproxy。confif(programnamehaproxyandsyslogseveritytextinfo)thenvarloghaproxyhaproxyinfo。logif(programnamehaproxyandsyslogseveritytextnotice)thenvarloghaproxyhaproxynotice。log将haproxy的info日志记录到varloghaproxyhaproxyinfo。log下,将notice日志记录到varloghaproxyhaproxynotice。log下表示当日志写入到日志文件后,rsyslog停止处理这个信息。重启服务systemctlrestartrsyslog。service 1。正常访问节点日志 先配置网卡,在访问 客户端访问haproxy服务器后,会产生对应的日志文件。 查看varloghaproxyhaproxyinfo。log。2。断开节点访问日志 停止掉某个节点服务器,然后再刷新haproxy服务器页面,开启节点服务器,再次刷新haproxy服务器页面则会产生haproxynotice。log文件。systemctlstopnginx。servicesystemctlstartnginx。service 六、haproxykeepalivednginx 1。配置主服务器(haproxykeepalived)(1)keepalived服务yumyinstallkeepalived (2)修改配置文件cdetckeepalivedcpkeepalived。confkeepalived。conf。bakvimkeepalived。conf !ConfigurationFileforkeepalivedglobaldefs{全局参数routeridLVS01指定名称,各个服务器名称要不一样}vrrpinstanceVI1{指定vrrp热备参数stateMASTER服务器角色是master,备份服务器设置为BACKUPinterfaceens33修改物理网卡名称,默认是centos6的eth0virtualrouterid51组号相同priority116优先级,主服务器设置要大于备服务器advertint1authentication{authtypePASS验证类型和密码,不建议修改authpass268}virtualipaddress{192。168。22。100漂移地址(VIP)地址,可以有多个}} systemctlstartkeepalived。serviceipaddr 之前haproxy已安装配置并成功启动无需再操作2。配置备用服务器(haproxykeepalived)(1)准备环境:关闭防火墙systemctlstopfirewalldsystemctldisablefirewalldsetenforce0 (2)keepalived服务yumyinstallkeepalived (3)修改配置文件cdetckeepalivedcpkeepalived。confkeepalived。conf。bakvimetckeepalivedkeepalived。conf !ConfigurationFileforkeepalivedglobaldefs{全局参数routeridLVS02指定名称,各个服务器名称要不一样}vrrpinstanceVI1{指定vrrp热备参数stateBACKUP服务器角色是master,备份服务器设置为BACKUPinterfaceens33修改物理网卡名称,默认是centos6的eth0virtualrouterid51组号相同priority106优先级,主服务器设置要大于备服务器advertint1authentication{authtypePASS验证类型和密码,不建议修改authpass268}virtualipaddress{192。168。22。100漂移地址(VIP)地址,可以有多个}} (4)haproxy服务 1)安装依赖包yumyinstallpcredevelzlibdevelgccgcccmake tarzxvfhaproxy1。5。19。tar。gz解压安装包cdhaproxy1。5。19进入解压目录makeTARGETlinux2628ARCHx8664进行编译(TARGETlinux2628表示内核版本,使用unamer查看内核,如:2。6。18371。el5,此时该参数用TARGETlinux26;kernel大于2。6。28的用TARGETlinux2628)(ARCHx8664系统位数,现在基本都是64位)makeinstall安装unamer 2)修改配置文件mkdiretchaproxycpopthaproxy1。5。19exampleshaproxy。cfgetchaproxyvimetchaproxyhaproxy。cfgglobal全局配置,主要用于定义全局参数,属于进程级的配置,通常和操作系统配置有关45行修改,配置日志记录,local0为日志设备,默认存放到系统日志logdevloglocal0infologdevloglocal0noticelogloghostlocal0infomaxconn4096最大连接数,需考虑ulimitn限制8行注释,chroot(改变根目录),为该服务自设置的根目录,一般需将此行注释掉chrootusrsharehaproxyuid99用户UIDgid99用户GIDdaemon守护进程模式nbproc1添加,设置并发进程数,建议与当前服务器CPU核数相等或为其2倍defaults配置默认参数,这些参数可以被用到Listen,frontend,backend组件logglobal引入global定义的日志格式modehttp模式为http(7层代理http,4层代理tcp)optionhttplog日志类别为http日志格式optiondontlognull不记录健康检查日志信息retries3检查节点服务器失败次数,连续达到三次失败,则认为节点不可用Redispatch当服务器负载很高时,自动结束当前队列处理比较久的连接maxconn2000最大连接数,defaults中的值不能超过global段中的定义contimeout5000设置连接超时时间,默认单位是毫秒clitimeout50000设置客户端超时时间,默认单位是毫秒srvtimeout50000设置服务器超时时间,默认单位是毫秒timeouthttprequest10s默认http请求超时时间timeoutqueue1m默认队列超时时间timeoutconnect10s默认连接超时时间,新版本中替代contimeout,该参数向后兼容timeoutclient1m默认客户端超时时间,新版本中替代clitimeout,该参数向后兼容timeoutserver1m默认服务器超时时间,新版本中替代srvtimeout,该参数向后兼容timeouthttpkeepalive10s默认持久连接超时时间timeoutcheck10s设置心跳检查超时时间删除下面所有listen项,添加listenwebcluster0。0。0。0:80haproxy实例状态监控部分配置,定义一个名为webcluster的应用optionhttpchkGETindex。html检查服务器的index。html文件此处文件名需要与后面节点服务器页面文件名一致balanceroundrobin负载均衡调度算法使用轮询算法roundrobinserverinst1192。168。22。228:80checkinter2000fall3定义在线节点serverinst2192。18。22。126:80checkinter2000fall3参数说明balanceroundrobin负载均衡调度算法轮询算法:roundrobin;最小连接数算法:leastconn;来源访问调度算法:source,类似于nginx的iphashcheckinter2000表示启用对此后端服务器执行健康检查,设置健康状态检查的时间间隔,单位为毫秒fall3表示连续三次检测不到心跳频率则认为该节点失效若节点配置后带有backup表示该节点只是个备份节点,仅在所有在线节点都失效该节点才启用。不携带backup,表示为主节点,和其它在线节点共同提供服务。 cpopthaproxy1。5。19exampleshaproxy。initetcinit。dhaproxychmodxetcinit。dhaproxychkconfigaddetcinit。dhaproxy添加到系统管理中lnsusrlocalsbinhaproxyusrsbinhaproxyservicehaproxystart或etcinit。dhaproxystart如果ningx服务器未部署会提示找不到web服务器,可以等web部署完后再开启haproxy (5)nginx服务 之前已安装配置并成功启动,无需再进行操作 (6)httpd服务 之前已安装配置并成功启动,无需再进行操作 3。用haproxy服务验证(1)主服务器servicehaproxystartsystemctlstartkeepalived关闭备用服务器的keepalivedipa (2)备用服务器servicehaproxystartsystemctlstartkeepalived关闭主服务器的keepalivedipa HAProxyNginx