当前位置: 首页 > news >正文

企业高性能web服务器

Web 服务介绍

Apache 经典的 Web 服务端

    Apache起初由美国的伊利诺伊大学香槟分校的国家超级计算机应用中心开发

    目前经历了两大版本分别是1.X2.X

    其可以通过编译安装实现特定的功能

Apache prefork 模型

    预派生模式,有一个主控制进程,然后生成多个子进程,用select模型,最大并发1024

    每个子进程有一个独立的线程响应用户请求

    相对比较占用内存,但是比较稳定,可以设置最大和最小进程数

    是最古老的一种模式,也是最稳定的模式,适用于访问量不是很大的场景

优点:稳定

缺点:每个用户请求需要对应开启一个进程,占用资源较多,并发性差,不适用于高并发场景

Apache worker 模型

    一种多进程和多线程混合的模型,有一个控制进程,启动多个子进程

    每个子进程里面包含固定的线程,使用线程程来处理请求

    当线程不够使用的时候会再启动一个新的子进程,然后在进程里面再启动线程处理请求,

    由于其使用了线程处理请求,因此可以承受更高的并发

优点:相比prefork 占用的内存较少,可以同时处理更多的请求

缺点:使用keepalive的长连接方式,某个线程会一直被占据,即使没有传输数据,也需要一直等待到超时才会被释放。如果过多的线程,被这样占据,也会导致在高并发场景下的无服务线程可用(该问题在prefork模式下,同样会发生)

Apache event模型

    Apache中最新的模式,2012年发布的apache 2.4.X系列正式支持event 模型,属于事件驱动模型(epoll) 

    每个进程响应多个请求,在现在版本里的已经是稳定可用的模式。

    它和worker模式很像,最大的区别在于,它解决了keepalive场景下长期被占用的线程的资源浪费问题 (某些线程因为被keepalive,空挂在哪里等待,中间几乎没有请求过来,甚至等到超时)。  event MPM中,会有一个专门的线程来管理这些keepalive类型的线程

    当有真实请求过来的时候,将请求传递给服务线程,执行完毕后,又允许它释放。这样增强了高并发场景下的请求处理能力。

        优点:单线程响应多请求,占据更少的内存,高并发下表现更优秀,会有一个专门的线程来管理keep-alive类型的线程,当有真实请求过来的时候,将请求传递给服务线程,执行完毕后,又允许它释放。         缺点:没有线程安全控制

Nginx-高性能的 Web 服务端

    Nginx是由1994年毕业于俄罗斯国立莫斯科鲍曼科技大学的同学 伊戈尔·赛索耶夫 为俄罗斯著名搜索网站rambler.ru开发的,开发工作最早从2002年开始,第一次公开发布时间是2004104日,版本号是0.1.0

    Nginx历经十几年的迭代更新, 目前功能已经非常完善且运行稳定,另外Nginx的版本分为开发版、稳定版和过期版,nginx以功能丰富著称,它即可以作为http服务器,也可以作为反向代理服务器或者邮件服务器能够快速的响应静态网页的请求

    支持FastCGI/SSL/Virtual Host/URL Rwrite /Gzip / HTTP Basic Auth/http或者TCP的负载均衡(1.9版本以上且开启stream模块)等功能,并且支持第三方的功能扩展。

    天猫 淘宝 京东 小米 163 新浪等一线互联网公司都在用Nginx或者进行二次开发

基于Nginx的工作场景:

用户访问体验和性能

用户访问体验统计

    互联网存在用户速度体验的1-3-10原则,即1秒最优,1-3秒较优,3~10秒比较慢,10秒以上用户无法接受。用户放弃一个产品的代价很低,只是换一个URL而已。

    全球最大搜索引擎 Google:慢500ms = 20% 将放弃访问。

    全球最大的电商零售网站亚马逊:慢100ms = 1% 将放弃交易

    有很多研究都表明,性能对用户的行为有很大的影响:

    79%的用户表示不太可能再次打开一个缓慢的网站

    47%的用户期望网页能在2秒钟以内加载

    40%的用户表示如果加载时间超过三秒钟,就会放弃这个网站

    页面加载时间延迟一秒可能导致转换损失7%,页面浏览量减少11%

    8秒定律:用户访问一个网站时,如果等待网页打开的时间超过8秒,会有超过30%的用户放弃等待

影响用户体验的因素

1.客户端

    客户端硬件配置

    客户端网络速率

    客户端与服务端距离

2.服务器

    服务端网络速率

    服务端硬件配置

    服务端架构设计

    服务端应用程序工作模式

    服务端并发数量服务端响应文件大小及数量 buffer cache

    服务端I/O压力1.2.4 服务端 I/O 流程

服务端 I/O 流程

    I/O在计算机中指Input/Output IOPS (Input/Output Per Second)即每秒的输入输出量(或读写次数),是衡量磁盘性能的主要指标之一。IOPS是指单位时间内系统能处理的I/O请求数量,一般以每秒处理的I/O请求数量为单位,I/O请求通常为读或写数据操作请求。

    一次完整的I/O是用户空间的进程数据与内核空间的内核数据的报文的完整交换,但是由于内核空间与用户空间是严格隔离的,所以其数据交换过程中不能由用户空间的进程直接调用内核空间的内存数据,而是需要经历一次从内核空间中的内存数据copy到用户空间的进程内存当中,所以简单说I/O就是把数据从内核空间中的内存数据复制到用户空间中进程的内存当中。 服务器的I/O

    磁盘I/O

    网络I/O : 一切皆文件,本质为对socket文件的读写

磁盘 I/O

    磁盘I/O是进程向内核发起系统调用,请求磁盘上的某个资源比如是html 文件或者图片,然后内核通过相应的驱动程序将目标文件加载到内核的内存空间,加载完成之后把数据从内核内存再复制给进程内存,如果是比较大的数据也需要等待时间。

  机械磁盘的寻道时间、旋转延迟和数据传输时间:

    寻道时间:是指磁头移动到正确的磁道上所花费的时间,寻道时间越短则I/O处理就越快,目前磁盘的寻道时间一般在3-15毫秒左右。

    旋转延迟:是指将磁盘片旋转到数据所在的扇区到磁头下面所花费的时间,旋转延迟取决于磁盘的转速,通常使用磁盘旋转一周所需要时间的1/2之一表示,比如7200转的磁盘平均训传延迟大约为60*1000/7200/2=4.17毫秒,公式的意思为 (每分钟60*1000毫秒每秒/7200转每分/2),如果是15000转的则为60*1000/15000/2=2毫秒。

    数据传输时间:指的是读取到数据后传输数据的时间,主要取决于传输速率,这个值等于数据大小除以传输速率,目前的磁盘接口每秒的传输速度可以达到600MB,因此可忽略。

  常见的机械磁盘平均寻道时间值:

    7200转/分的磁盘平均物理寻道时间:9毫秒

    10000/分的磁盘平均物理寻道时间:6毫秒

    15000/分的磁盘平均物理寻道时间:4毫秒

  常见磁盘的平均延迟时间:

    7200转的机械盘平均延迟:60*1000/7200/2 = 4.17ms

    10000转的机械盘平均延迟:60*1000/10000/2 = 3ms

    15000转的机械盘平均延迟:60*1000/15000/2 = 2ms

网络 I/O

网络通信就是网络协议栈到用户空间进程的IO就是网络IO

网络I/O 处理过程

    获取请求数据,客户端与服务器建立连接发出请求,服务器接受请求(1-3)

    构建响应,当服务器接收完请求,并在用户空间处理客户端请求,直到构建响应完成(4

    返回数据,服务器将已构建好的响应再通过内核空间的网络 I/O 发还给客户端(5-7

不论磁盘和网络I/O

每次I/O,都要经由两个阶段:

    第一步:将数据从文件先加载至内核内存空间(缓冲区),待数据准备完成,时间较长

    第二步:将数据从内核缓冲区复制到用户空间的进程的内存中,时间较短

I/O 模型

I/O 模型相关概念

    同步/异步:关注的是消息通信机制,即调用者在等待一件事情的处理结果时,被调用者是否提供完成状态的通知。

    同步:synchronous,被调用者并不提供事件的处理结果相关的通知消息,需要调用者主动询问事情是否处理完成

    异步:asynchronous,被调用者通过状态、通知或回调机制主动通知调用者被调用者的运行状态

  阻塞/非阻塞:关注调用者在等待结果返回之前所处的状态

  阻塞:blocking,指IO操作需要彻底完成后才返回到用户空间,调用结果返回之前,调用者被挂起,干不了别的事情。

  非阻塞:nonblocking,指IO操作被调用后立即返回给用户一个状态值,而无需等到IO操作彻底完成,在最终的调用结果返回之前,调用者不会被挂起,可以去做别的事情。

网络 I/O 模型

阻塞型、非阻塞型、复用型、信号驱动型、异步

阻塞型 I/O 模型(blocking IO)

  阻塞IO模型是最简单的I/O模型,用户线程在内核进行IO操作时被阻塞

  用户线程通过系统调用read发起I/O读操作,由用户空间转到内核空间。内核等到数据包到达后,然后将接收的数据拷贝到用户空间,完成read操作

  用户需要等待read将数据读取到buffer后,才继续处理接收的数据。整个I/O请求的过程中,用户线程是被阻塞的,这导致用户在发起IO请求时,不能做任何事情,对CPU的资源利用率不够

  优点:程序简单,在阻塞等待数据期间进程/线程挂起,基本不会占用 CPU 资源

  缺点:每个连接需要独立的进程/线程单独处理,当并发请求量大时为了维护程序,内存、线程切换开销较apache preforck使用的是这种模式。

  同步阻塞:程序向内核发送I/O请求后一直等待内核响应,如果内核处理请求的IO操作不能立即返回,则进程将一直等待并不再接受新的请求,并由进程轮询查看I/O是否完成,完成后进程将I/O结果返回给Client,在IO没有返回期间进程不能接受其他客户的请求,而且是有进程自己去查看I/O是否完成,这种方式简单,但是比较慢,用的比较少。

非阻塞型 I/O 模型

  用户线程发起IO请求时立即返回。但并未读取到任何数据,用户线程需要不断地发起IO请求,直到数据到达后,才真正读取到数据,继续执行。即 “轮询机制存在两个问题:如果有大量文件描述符都要等,那么就得一个一个的read。这会带来大量的Context Switchread是系统调用,每调用一次就得在用户态和核心态切换一次)。轮询的时间不好把握。这里是要猜多久之后数据才能到。等待时间设的太长,程序响应延迟就过大;设的太短,就会造成过于频繁的重试,干耗CPU而已,是比较浪费CPU的方式,一般很少直接使用这种模型,而是在其他IO模型中使用非阻塞IO这一特性。

  非阻塞:程序向内核发送请I/O求后一直等待内核响应,如果内核处理请求的IO操作不能立即返回IO结果,进程将不再等待,而且继续处理其他请求,但是仍然需要进程隔一段时间就要查看内核I/O是否完成。

  查看上图可知,在设置连接为非阻塞时,当应用进程系统调用 recvfrom 没有数据返回时,内核会立即返回一个 EWOULDBLOCK 错误,而不会一直阻塞到数据准备好。如上图在第四次调用时有一个数据报准备好了,所以这时数据会被复制到 应用进程缓冲区 ,于是 recvfrom 成功返回数据当一个应用进程这样循环调用 recvfrom 时,称之为轮询 polling 。这么做往往会耗费大量CPU时间,实际使用很少。

多路复用 I/O 型(I/O multiplexing)

  上面的模型中,每一个文件描述符对应的IO是由一个线程监控和处理

  多路复用IO指一个线程可以同时(实际是交替实现,即并发完成)监控和处理多个文件描述符对应各自的IO,即复用同一个线程

  一个线程之所以能实现同时处理多个IO,是因为这个线程调用了内核中的SELECT,POLLEPOLL等系统调用,从而实现多路复用IO

  I/O multiplexing 主要包括:selectpollepoll三种系统调用,select/poll/epoll的好处就在于单个process就可以同时处理多个网络连接的IO

  它的基本原理就是select/poll/epoll这个function会不断的轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程。

  当用户进程调用了select,那么整个进程会被block,而同时,kernel监视所有select负责的socket,当任何一个socket中的数据准备好了,select就会返回。这个时候用户进程再调用read操作,将数据从kernel拷贝到用户进程。

  Apache prefork是此模式的selectworkerpoll模式。

  IO多路复用(IO Multiplexing) :一种机制,程序注册一组socket文件描述符给操作系统,表示我要监视这些fd是否有IO事件,有了告诉程序处理”IO多路复用,一般和NIO使用。

  NIOIO多路复用是相对独立的。NIO仅仅是指IO API总是能立刻返回,不会被Blocking;IO多路复用仅仅是操作系统提供的一种便利的通知机制。操作系统并不会强制这俩必须得一起用,可以只用IO多路复用 + BIO,这时还是当前线程被卡住。IO多路复用和NIO是要配合一起使用才有实际意义

  IO多路复用是指内核一旦发现进程指定的一个或者多个IO条件准备读取,就通知该进程多个连接共用一个等待机制,本模型会阻塞进程,但是进程是阻塞在select或者poll这两个系统调用上,而不是阻塞在真正的IO操作上用户首先将需要进行IO操作添加到select中,同时等待select系统调用返回。

  当数据到达时,IO被激活,select函数返回。用户线程正式发起read请求,读取数据并继续执行从流程上来看,使用select函数进行IO请求和同步阻塞模型没有太大的区别,甚至还多了添加监视IO,以及调用select函数的额外操作,效率更差。并且阻塞了两次,但是第一次阻塞在select上时,select可以监控多个IO上是否已有IO操作准备就绪,即可达到在同一个线程内同时处理多个IO请求的目的。而不像阻塞IO那种,一次只能监控一个IO虽然上述方式允许单线程内处理多个IO请求,但是每个IO请求的过程还是阻塞的(在select函数上阻塞),平均时间甚至比同步阻塞IO模型还要长。

  如果用户线程只是注册自己需要的IO请求,然后去做自己的事情,等到数据到来时再进行处理,则可以提高CPU的利用率IO多路复用是最常使用的IO模型,但是其异步程度还不够彻底,因它使用了会阻塞线程的select系统调用。因此IO多路复用只能称为异步阻塞IO模型,而非真正的异步IO优缺点

    优点:可以基于一个阻塞对象,同时在多个描述符上等待就绪,而不是使用多个线程(每个文件描述符一个线程),这样可以大大节省系统资源

缺点:当连接数较少时效率相比多线程+阻塞 I/O 模型效率较低,可能延迟更大,因为单个连接处理需要 2 次系统调用,占用时间会有增加

IO多路复用适用如下场合:

  当客户端处理多个描述符时(一般是交互式输入和网络套接口),必须使用I/O复用

  当一个客户端同时处理多个套接字时,此情况可能的但很少出现

  当一个服务器既要处理监听套接字,又要处理已连接套接字,一般也要用到I/O复用

  当一个服务器即要处理TCP,又要处理UDP,一般要使用I/O复用

  当一个服务器要处理多个服务或多个协议,一般要使用I/O复用

信号驱动式 I/O 模

  信号驱动I/O的意思就是进程现在不用傻等着,也不用去轮询。而是让内核在数据就绪时,发送信号通知进程。

  调用的步骤是,通过系统调用 sigaction ,并注册一个信号处理的回调函数,该调用会立即返回,然后主程序可以继续向下执行,当有I/O操作准备就绪,即内核数据就绪时,内核会为该进程产生一个 SIGIO信号,并回调注册的信号回调函数,这样就可以在信号回调函数中系统调用 recvfrom 获取数据,将用户进程所需要的数据从内核空间拷贝到用户空间

  此模型的优势在于等待数据报到达期间进程不被阻塞。用户主程序可以继续执行,只要等待来自信号处理函数的通知。

  在信号驱动式 I/O 模型中,应用程序使用套接口进行信号驱动 I/O,并安装一个信号处理函数,进程继续运行并不阻塞

  在信号驱动式 I/O 模型中,应用程序使用套接口进行信号驱动 I/O,并安装一个信号处理函数,进程继续运行并不阻塞

  当数据准备好时,进程会收到一个 SIGIO 信号,可以在信号处理函数中调用 I/O 操作函数处理数据。

    优点:线程并没有在等待数据时被阻塞,内核直接返回调用接收信号,不影响进程继续处理其他请求因此可以提高资源的利用率

    缺点:信号 I/O 在大量 IO 操作时可能会因为信号队列溢出导致没法通知

异步阻塞:程序进程向内核发送IO调用后,不用等待内核响应,可以继续接受其他请求,内核收到进程请求后进行的IO如果不能立即返回,就由内核等待结果,直到IO完成后内核再通知进程。

异步 I/O 模型

  异步I/O 与 信号驱动I/O最大区别在于,信号驱动是内核通知用户进程何时开始一个I/O操作,而异步I/O是由内核通知用户进程I/O操作何时完成,两者有本质区别,相当于不用去饭店场吃饭,直接点个外卖,把等待上菜的时间也给省了

  相对于同步I/O,异步I/O不是顺序执行。用户进程进行aio_read系统调用之后,无论内核数据是否准备好,都会直接返回给用户进程,然后用户态进程可以去做别的事情。等到socket数据准备好了,内核直接复制数据给进程,然后从内核向进程发送通知。IO两个阶段,进程都是非阻塞的。

  信号驱动IO当内核通知触发信号处理程序时,信号处理程序还需要阻塞在从内核空间缓冲区拷贝数据到用户空间缓冲区这个阶段,而异步IO直接是在第二个阶段完成后,内核直接通知用户线程可以进行后续操作了

    优点:异步 I/O 能够充分利用 DMA 特性,让 I/O 操作与计算重叠

    缺点:要实现真正的异步 I/O,操作系统需要做大量的工作。目前 Windows 下通过 IOCP 实现了真正的

  异步 I/O,在 Linux 系统下,Linux 2.6才引入,目前 AIO 并不完善,因此在 Linux 下实现高并发网络编程时以 IO 复用模型模式+多线程任务的架构基本可以满足需求

  Linux提供了AIO库函数实现异步,但是用的很少。目前有很多开源的异步IO库,例如libeventlibevlibuv

  异步非阻塞:程序进程向内核发送IO调用后,不用等待内核响应,可以继续接受其他请求,内核调用的IO如果不能立即返回,内核会继续处理其他事物,直到IO完成后将结果通知给内核,内核在将IO完成的结果返回给进程。

  期间进程可以接受新的请求,内核也可以处理新的事物,因此相互不影响,可以实现较大的同时并实现较高的IO复用,因此异步非阻塞使用最多的一种通信方式。

五种 IO 对比

这五种 I/O 模型中,越往后,阻塞越少,理论上效率也是最优前四种属于同步 I/O,因为其中真正的 I/O操作(recvfrom)将阻塞进程/线程,只有异步 I/O 模型才与 POSIX 定义的异步 I/O 相匹配

I/O 的具体实现方式

I/O常见实现

Nginx支持在多种不同的操作系统实现不同的事件驱动模型,但是其在不同的操作系统甚至是不同的系统版本上面的实现方式不尽相同,主要有以下实现方式:

1select

select库是在linuxwindows平台都基本支持的 事件驱动模型库,并且在接口的定义也基本相同,只是部分参数的含义略有差异,最大并发限制1024,是最早期的事件驱动模型。

2poll

Linux 的基本驱动模型,windows不支持此驱动模型,是select的升级版,取消了最大的并发限制,在编译nginx的时候可以使用--with-poll_module--without-poll_module这两个指定是否编译select库。

3epoll

epoll是库是Nginx服务器支持的最高性能的事件驱动库之一,是公认的非常优秀的事件驱动模型,它和selectpoll有很大的区别,epollpoll的升级版,但是与poll有很大的区别.epoll的处理方式是创建一个待处理的事件列表,然后把这个列表发给内核,返回的时候在去轮询检查这个表,以判断事件是否发生,epoll支持一个进程打开的最大事件描述符的上限是系统可以打开的文件的最大数,同时epoll库的I/O效率不随描述符数目增加而线性下降,因为它只会对内核上报的活跃的描述符进行操作。

4kqueue

用于支持BSD系列平台的高校事件驱动模型,主要用在FreeBSD 4.1及以上版本、OpenBSD 2.0级以上版本NetBSD级以上版本及Mac OS X 平台上,该模型也是poll库的变种,因此和epoll没有本质上的区别,都是通过避免轮询操作提供效率。

5Iocp

Windows系统上的实现方式,对应第5种(异步I/O)模型

6、rtsig

不是一个常用事件驱动,最大队列1024,不是很常用

7/dev/poll:

用于支持unix衍生平台的高效事件驱动模型,主要在Solaris 平台、HP/UX,该模型是sun公司在开发Solaris系列平台的时候提出的用于完成事件驱动机制的方案,它使用了虚拟的/dev/poll设备,开发人员将要见识的文件描述符加入这个设备,然后通过ioctl()调用来获取事件通知,因此运行在以上系列平台的时候请使用/dev/poll事件驱动机制。

8eventport:     

该方案也是sun公司在开发Solaris的时候提出的事件驱动库,只是Solaris 10以上的版本,该驱动库看防止内核崩溃等情况的发生。

常用I/O模型比较

Select:

    POSIX所规定,目前几乎在所有的平台上支持,其良好跨平台支持也是它的一个优点,本质上是通过设置或者检查存放fd标志位的数据结构来进行下一步处理

缺点:

    单个进程能够监视的文件描述符的数量存在最大限制,在Linux上一般为1024,可以通过修改宏定FD_SETSIZE,再重新编译内核实现,但是这样也会造成效率的降低单个进程可监视的fd数量被限制,默认是1024,修改此值需要重新编译内核对socket是线性扫描,即采用轮询的方法,效率较低select 采取了内存拷贝方法来实现内核将 FD 消息通知给用户空间,这样一个用来存放大量fd的数据结构,这样会使得用户空间和内核空间在传递该结构时复制开销大

poll

    本质上和select没有区别,它将用户传入的数组拷贝到内核空间,然后查询每个fd对应的设备状态其没有最大连接数的限制,原因是它是基于链表来存储的大量的fd的数组被整体复制于用户态和内核地址空间之间,而不管这样的复制是不是有意义poll特点是“水平触发”,如果报告了fd后,没有被处理,那么下次poll时会再次报告该fd select是边缘触发即只通知一次

epoll

    在Linux 2.6内核中提出的select和poll的增强版本支持水平触发LT和边缘触发ET,最大的特点在于边缘触发,它只告诉进程哪些fd刚刚变为就需态,并且只会通知一次使用“事件”的就绪通知方式,通过epoll_ctl注册fd,一旦该fd就绪,内核就会采用类似callback的回调机制来激活该fd,epoll_wait便可以收到通知

优点::

    没有最大并发连接的限制:能打开的FD的上限远大于1024(1G的内存能监听约10万个端口),具体查看/proc/sys/fs/file-max,此值和系统内存大小相关效率提升:非轮询的方式,不会随着FD数目的增加而效率下降;只有活跃可用的FD才会调用callback函数,即epoll最大的优点就在于它只管理“活跃”的连接,而跟连接总数无关内存拷贝,利用mmap(Memory Mapping)加速与内核空间的消息传递;即epoll使用mmap减少复制开销

总结:

    1、epoll只是一组API,比起select这种扫描全部的文件描述符,epoll只读取就绪的文件描述符,再加入

基于事件的就绪通知机制,所以性能比较好

    2、基于epoll的事件多路复用减少了进程间切换的次数,使得操作系统少做了相对于用户任务来说的无用功。

    3、epoll比select等多路复用方式来说,减少了遍历循环及内存拷贝的工作量,因为活跃连接只占总并发连接的很小一部分。

零拷贝

传统 Linux中 I/O 的问题

    传统的 Linux 系统的标准 I/O 接口(readwrite)是基于数据拷贝的,也就是数据都是 copy_to_user或者 copy_from_user,这样做的好处是,通过中间缓存的机制,减少磁盘 I/O 的操作,但是坏处也很明显,大量数据的拷贝,用户态和内核态的频繁切换,会消耗大量的 CPU 资源,严重影响数据传输的性能,统计表明,在Linux协议栈中,数据包在内核态和用户态之间的拷贝所用的时间甚至占到了数据包整个处理流程时间的57.1%

什么是零拷贝

    零拷贝就是上述问题的一个解决方案,通过尽量避免拷贝操作来缓解 CPU 的压力。零拷贝并没有真正做到“0”拷贝,它更多是一种思想,很多的零拷贝技术都是基于这个思想去做的优化。

零拷页相关技术

MMAP ( Memory Mapping )

    mmap()系统调用使得进程之间通过映射同一个普通文件实现共享内存。普通文件被映射到进程地址空间后,进程可以向访问普通内存一样对文件进行访问。

    mmap是一种内存映射文件的方法,即将一个文件或者其它对象映射到进程的地址空间,实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系。

    实现这样的映射关系后,进程就可以采用指针的方式读写操作这一段内存,而系统会自动回写脏页面到对应的文件磁盘上,即完成了对文件的操作而不必再调用read,write等系统调用函数。相反,内核空间对这段区域的修改也直接反映用户空间,从而可以实现不同进程间的文件共享。

    内存映射减少数据在用户空间和内核空间之间的拷贝操作,适合大量数据传输

    上面左图为传统读写,右图为MMAP.两者相比mmap要比普通的read系统调用少了一次copy的过程。因为read调用,进程是无法直接访问kernel space的,所以在read系统调用返回前,内核需要将数据从内核复制到进程指定的buffer。但mmap之后,进程可以直接访问mmap的数据(page cache)

Nginx 架构和进程

Nginx 进程结构     

web请求处理机制

    多进程方式:服务器每接收到一个客户端请求就有服务器的主进程生成一个子进程响应客户端,直到用户关闭连接,这样的优势是处理速度快,子进程之间相互独立,但是如果访问过大会导致服务器资源耗尽而无法提供请求

    多线程方式:与多进程方式类似,但是每收到一个客户端请求会有服务进程派生出一个线程和此客户端进行交互,一个线程的开销远远小于一个进程,因此多线程方式在很大程度减轻了web服务器对系统资源的要求,但是多线程也有自己的缺点,即当多个线程位于同一个进程内工作的时候,可以相互访问同样的内存地址空间,所以他们相互影响,一旦主进程挂掉则所有子线程都不能工作了,IIS服务器使用了多线程的方式,需要间隔一段时间就重启一次才能稳定。

    Nginx是多进程组织模型,而且是一个由Master主进程和Worker工作进程组成。

主进程(master process)的功能:

    对外接口:接收外部的操作(信号)

    对内转发:根据外部的操作的不同,通过信号管理 Worker

    监控:监控 worker 进程的运行状态,worker 进程异常终止后,自动重启 worker 进程

    读取Nginx 配置文件并验证其有效性和正确性

    建立、绑定和关闭socket连接

    按照配置生成、管理和结束工作进程

    接受外界指令,比如重启、升级及退出服务器等指令

    不中断服务,实现平滑升级,重启服务并应用新的配置

    开启日志文件,获取文件描述符

    不中断服务,实现平滑升级,升级失败进行回滚处理

    编译和处理perl脚本

工作进程(worker process)的功能:

    所有 Worker 进程都是平等的      【worker进程谁也不影响谁】

    实际处理:网络请求,由 Worker 进程处理

    Worker进程数量:一般设置为核心数,充分利用CPU资源,同时避免进程数量过多,导致进程竞争CPU资源,

    增加上下文切换的损耗

    接受处理客户的请求,将请求依次送入各个功能模块进行处理

    I/O调用,获取响应数据

    与后端服务器通信,接收后端服务器的处理结果

    缓存数据,访问缓存索引,查询和调用缓存数据

    发送请求结果,响应客户的请求

    接收主程序指令,比如重启、升级和退出等

Nginx 进程间通信

    工作进程是由主进程生成的,主进程使用fork()函数,在Nginx服务器启动过程中主进程根据配置文件决定启动工作进程的数量,然后建立一张全局的工作表用于存放当前未退出的所有的工作进程,主进程生成工作进程后会将新生成的工作进程加入到工作进程表中,并建立一个单向的管道并将其传递给工作进程,该管道与普通的管道不同,它是由主进程指向工作进程的单向通道,包含了主进程向工作进程发出的指令、工作进程ID、工作进程在工作进程表中的索引和必要的文件描述符等信息。

    主进程与外界通过信号机制进行通信,当接收到需要处理的信号时,它通过管道向相关的工作进程发送正确的指令,每个工作进程都有能力捕获管道中的可读事件,当管道中有可读事件的时候,工作进程就会从管道中读取并解析指令,然后采取相应的执行动作,这样就完成了主进程与工作进程的交互。

Nginx 启动和 HTTP 连接建立

    Nginx 启动时,Master 进程,加载配置文件

    Master 进程,初始化监听的 socket

    Master 进程,fork 出多个 Worker 进程

    Worker 进程,竞争新的连接,获胜方通过三次握手,建立 Socket 连接,并处理请求

Nginx 多种模块介绍

    核心模块:是 Nginx 服务器正常运行必不可少的模块,提供错误日志记录 、配置文件解析 、事件驱动机制 、进程管理等核心功能。

    标准HTTP模块:提供 HTTP 协议解析相关的功能,比如: 端口配置 、 网页编码设置 、 HTTP响应头设置等等。

    可选HTTP模块:主要用于扩展标准的 HTTP 功能,让 Nginx 能处理一些特殊的服务,比如: Flash

    多媒体传输 、解析 GeoIP 请求、 网络传输压缩 、 安全协议 SSL 支持等。

    邮件服务模块:主要用于支持 Nginx 的 邮件服务 ,包括对 POP3 协议、 IMAP 协议和 SMTP协议的支持。

    Stream服务模块: 实现反向代理功能,包括TCP协议代理。

    第三方模块:是为了扩展 Nginx 服务器应用,完成开发者自定义功能,比如: Json 支持、 Lua 支持等。

nginx高度模块化,但其模块早期不支持DSO机制;1.9.11 版本支持动态装载和卸载。

Nginx版本和安装方式

Nginx版本

    Mainline version 主要开发版本,一般为奇数版本号,比如1.19

    Stable version 当前最新稳定版,一般为偶数版本,:1.20

    Legacy versions 旧的稳定版,一般为偶数版本,:1.18

Nginx安装可以使用yum或源码安装,但是推荐使用源码编译安装

    dnf,yum下载的版本比较旧

    编译安装可以更方便自定义相关路径

    使用源码编译可以自定义相关功能,更方便业务的上的使用

Nginx 架构和安装

# dnf install gcc -y

# dnf install pcre-devel.x86_64 -y

# dnf install openssl-devel.x86_64 -y

# dnf install zlib-devel.x86_64 -y

# cd /mnt/nginx-1.24.0/

nginx-1.24.0]# useradd -s /sbin/nologin -M nginx

# ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_ssl_module --with-http_v2_module --with-http_realip_module --with-http_stub_status_module --with-http_gzip_static_module --with-pcre --with-stream --with-stream_ssl_module --with-stream_realip_module

# make && make install           【编译安装

# ls /usr/local/nginx/

    conf:保存nginx所有的配置文件,其中nginx.confnginx服务器的最核心最主要的配置文件,其他的.conf则是用来配置nginx相关的功能的,例如fastcgi功能使用的是fastcgi.conffastcgi_params两个文件,配置文件一般都有一个样板配置文件,是以.default为后缀,使用时可将其复制并将default后缀去掉即可。

    html目录中保存了nginx服务器的web文件,但是可以更改为其他目录保存web文件,另外还有一个50xweb文件是默认的错误页面提示页面。

    logs:用来保存nginx服务器的访问日志错误日志等日志,logs目录可以放在其他路径,比如/var/logs/nginx里面。

sbin:保存nginx二进制启动脚本,可以接受不同的参数以实现不同的功能。

验证版本及编译参数

# cd /usr/local/nginx/sbin/

# ./nginx

# netstat -antlupe | grep nginx 查看结果;

# echo "export PATH=$PATH:/usr/local/nginx/sbin" >> ~/.bash_profile

# source ~/.bash_profile

# nginx -V       【验证版本】

# nginx -v

参数:  nginx  -参数

    -t : test configuration and exit #测试配置文件是否异

    -T : test configuration, dump it and exit #测试并打印

    -q : suppress non-error messages during configuration testing #静默模式

    -s signal : send signal to a master process: stop, quit, reopen, reload     #发送信号,reload信号 会生成新的worker,master不会重新生成

    -p prefix : set prefix path (default: /etc/nginx/)         #指定Nginx 目录

    -c filename : set configuration file (default: /etc/nginx/nginx.conf)     #配置文件路径

    -g directives : set global directives out of configuration file     #设置全局指令,注意和配置文件不要同时配置,否则冲突。

平滑升级和回滚

有时候我们需要对Nginx版本进行升级以满足对其功能的需求,例如添加新模块,需要新功能,而此时Nginx又在跑着业务无法停掉,这时我们就可能选择平滑升级

    将旧Nginx二进制文件换成新Nginx程序文件(注意先备份)

    向master进程发送USR2信号     

    master进程修改pid文件名加上后缀.oldbin,成为nginx.pid.oldbin

    master进程用新Nginx文件启动新master进程成为旧master的子进程,系统中将有新旧两个Nginx主进程共同提供Web服务,当前新的请求仍然由旧Nginxworker进程进行处理,将新生成的master进程的PID存放至新生成的pid文件nginx.pid

    向旧的Nginx服务进程发送WINCH信号,使旧的Nginx worker进程平滑停止

    向旧master进程发送QUIT信号,关闭老master,并删除Nginx.pid.oldbin文件

    如果发现升级有问题,可以回滚∶向老master发送HUP,向新master发送QUIT

优化配置

nginx-1.24.0]# vim src/core/nginx.h        【更改nginx编译源码,隐藏版本】

# vim auto/cc/gcc      【格式化,减小文件大小】

# systemctl disable firewalld.service

# echo 172.25.254.10 > /usr/local/nginx/html/index.html

平滑升级

# cd /usr/local/nginx/sbin/

# cp -p nginx nginx.old

# ls 查看结果:

# /bin/cp -f /mnt/nginx-1.26.1/objs/nginx /usr/local/nginx/sbin/nginx    【覆盖老版本】

# nginx -t    【查看是否正确】

# ps aux | grep nginx    【查看老版本】

# kill -USR2 53993     【激活新版本程序】

# kill -WINCH 53993    【回收老版本work】

# curl -I 172.25.254.10    【查看版本是否更改】

版本回滚

# cp -p nginx nginx.new   【复制新版本】

# ps aux | grep nginx    【查看新版本】

# kill -HUP 53993       【启用老版本】

# kill -WINCH 58134    【回收新版本work】

# curl -I 172.25.254.10 查看结果:

nginx的systemctl开机启动配置

# ls /usr/local/nginx/    【查看Nginx 的根安装目录

# ls /usr/local/nginx/logs/    【Nginx 的日志目录

# nginx -s stop      【关闭nginx】

# cd /lib/systemd/system   【进入开机启动的目录】

# vim nginx.service    【配置开机启动文件】

[Unit]

Description=The NGINX HTTP and reverse proxy server

After=syslog.target network.target remote-fs.target nss-lookup.target

[Service]

Type=forking

PIDFile=/usr/local/nginx/logs/nginx.pid

ExecStartPre=/usr/local/nginx/sbin/nginx -t

ExecStart=/usr/local/nginx/sbin/nginx

ExecReload=/usr/local/nginx/sbin/nginx -s reload

ExecStop=/bin/kill -s QUIT $MAINPID

PrivateTmp=true

[Install]

WantedBy=multi-user.target

# rpm -qa | grep nginx    【注意这个是无输出的,nginx是不dnf或yum下载的】

# systemctl daemon-reload       【重启sys配置】

# systemctl enable --now nginx   【现在nginx也可以用sys开机启动】

Nginx 核心配置详解

配置文件说明

Nginx的配置文件的组成部分:

    主配置文件:nginx.conf

    子配置文件: include conf.d/*.conf

    fastcgi uwsgiscgi 等协议相关的配置文件

    mime.types:支持的mime类型,MIME(Multipurpose Internet Mail Extensions)多用途互联网邮件扩展类型,MIME消息能包含文本、图像、音频、视频以及其他应用程序专用的数据,是设定某种扩展名的文件用一种应用程序来打开的方式类型,当该扩展名文件被访问的时候,浏览器会自动使用指定应用程序来打开。多用于指定一些客户端自定义的文件名,以及一些媒体文件打开方式。

nginx 配置文件格式说明

    配置文件由指令与指令块构成

    每条指令以;分号结尾,指令与值之间以空格符号分隔

    可以将多条指令放在同一行,用分号分隔即可,但可读性差,不推荐

    指令块以{ }大括号将多条指令组织在一起,且可以嵌套指令块

    include语句允许组合多个配置文件以提升可维护性

    使用#符号添加注释,提高可读性

    使用$符号使用变量

    部分指令的参数支持正则表达式

Nginx 主配置文件的配置指令方式:

directive value [value2 ...];

注意

(1) 指令必须以分号结尾

(2) 支持使用配置变量

    内建变量:由Nginx模块引入,可直接引用

    自定义变量:由用户使用set命令定义,格式: set variable_name value;

    引用变量:$variable_name

主配置文件结构:四部分

main block:主配置段,即全局配置段,对http,mail都有效

#事件驱动相关的配置

    event {

    ...

    }

#http/https 协议相关配置段

    http {

    }

#默认配置文件不包括下面两个块

#mail 协议相关配置段

    mail {

    ...

    }

#stream 服务器相关配置段

    stream {

    ...

    }

默认的nginx.conf 配置文件格式说明

#全局配置端,对全局生效,主要设置nginx的启动用户/组,启动的工作进程数量,工作模式,NginxPID路径,日志路径等。

# vim /mnt/nginx-1.26.1/conf/nginx.conf

user nginx nginx;

worker_processes 1;                 #启动工作进程数数量

events {             #events         #设置快,主要影响nginx服务器与用户的网络连接,比如是否允许同时接受多个网络连接,使用哪种事件驱动模型

                     #处理请求,每个工作进程可以同时支持的最大连接数,是否开启对多工作进程下的网络连接进行序列化等。

worker_connections 1024;         #设置单个nginx工作进程可以接受的最大并发,作为web服务器的时候最大并发数为         

                   # worker_connections * worker_processes,作为反向代理的时候为    

                   # (worker_connections * worker_processes)/2

}

http {                      #http块是Nginx服务器配置中的重要部分,缓存、代理和日志格式定义等绝大多数功能和第三方模块都

                        #可以在这设置,http块可以包含多个server块,而一个server块中又可以包含多个location块,

                       #server块可以配置文件引入、MIME-Type定义、日志自定义、是否启用sendfile、连接超时时间和

                        #单个链接的请求上限等。

    include mime.types;      #包含

    default_type application/octet-stream;      #发布发默认格式

    sendfile on;   #作为web服务器的时候打开sendfile加快静态文件传输,指定是否使用

                #sendfile系统调用来传输文件,实行零拷贝

              #sendfile系统调用在两个文件描述符之间直接传递数据(完全在内核中操作)

 #从而避免了数据在内核缓冲区和用户缓冲区之间的拷贝,操作效率很高,被称之为零拷贝,

                  #硬盘 >> kernel buffer (快速拷贝到kernelsocket buffer) >>协议栈。

    keepalive_timeout 65;         #长连接超时时间,单位是秒

server {

   #设置一个虚拟机主机,可以包含自己的全局快,同时也可以包含多个location模块

        #比如本虚拟机监听的端口、本虚拟机的名称和IP配置,多个server 可以使用一个端口比如都使用         #80端口提供web服务

        listen 80;         #配置server监听的端口

        server_name localhost;         #本server的名称,当访问此名称的时候nginx会调用当前serevr内部的配置进程匹配。

        location / {       #location其实是server的一个指令,为nginx服务器提供比较多而且灵活的指令

            #都是在location中体现的,主要是基于nginx接受到的请求字符串

            #对用户请求的UIL进行匹配,并对特定的指令进行处理

            #包括地址重定向、数据缓存和应答控制等功能都是在这部分实现

            #另外很多第三方模块的配置也是在location模块中配置。

            root html;         #相当于默认页面的目录名称,默认是安装目录的相对路径,可以使用绝对路径配置。

            index index.html index.htm;         #默认的页面文件名称

        } 

        error_page 500 502 503 504 /50x.html;         #错误页面的文件名称

        location = /50x.html { #location处理对应的不同错误码的页面定义到/50x.html

                            #这个跟对应其server中定义的目录下。

            root html;         #定义默认页面所在的目录

        }

    }

        #和邮件相关的配置

        #mail {

        # ...

        # } mail 协议相关配置段

        #tcp代理配置,1.9版本以上支持

        #stream {

        # ...

        # } stream 服务器相关配置段

        #导入其他路径的配置文件

        #include /apps/nginx/conf.d/*.conf

}

实现 nginx 的高并发配置

# vim /mnt/nginx-1.26.1/conf/nginx.conf

# vim /etc/security/limits.conf

# systemctl restart nginx

配置完成需要 # reboot重启,或下面一行也可以改并发量

# ulimit -n 10000

# ab -n 10000 -c 500 -v 1 http://172.25.254.10/index.html  【-n总请求,-c并发量,-v显示级】

新建一个 PC web 站点

# mkdir -p /usr/local/nginx/conf.d/

# cd /usr/local/nginx/conf.d/

# vim /usr/local/nginx/conf/nginx.conf

# vim /usr/local/nginx/conf.d/vhosts.conf

    server{

        listen  80;         #端口

        server_name www.timinglee.org;  #访问域名

        root    /web/html;      #默认发布目录

        index   index.html;     #默认发布文件

    }

vim /etc/hosts       【配置浏览器文件,添加内容,加入虚拟主机解析域名】

# mkdir -p /web/html

# echo "web_html" > /web/html/index.html

# curl 172.25.254.10

# curl www.timinglee.org

root 与 alias

root:指定web的家目录,定义location时,文件绝对路径等于 root+location【必须是目录】

# vim /usr/local/nginx/conf.d/vhosts.conf    

# mkdir /mnt/dirtest/

# echo dirtest page > /mnt/dirtest/index.html

# nginx -s reload

# curl www.timinglee.org/dirtest/

alias:定义路径别名,会把访问的路径重新定义到其指定的路径,文档映射的另一种机制;仅能用于location上下文,此指令使用较少【指定的是文件,也可以指定目录】

# vim /usr/local/nginx/conf.d/vhosts.conf

# curl www.timinglee.org/alias/

location  /alias/ {               # 模拟root

        alias /mnt/dirtest/alias/;  # 指定目录

    }

# echo "web_Alias" > /mnt/dirtest/alias/index.html

# curl http://www.timinglee.org/alias/

root    #给定的路径对应于location中的/uri左侧的/

alias    #给定的路径对应于location中的/uri的完整路径

location 的详细使用

  在一个server中location配置段可存在多个,用于实现从uri到文件系统的路径映射;

  ngnix会根据用户请求的URI来检查定义的所有location,按一定的优先级找出一个最佳匹配,然后应用其配置在没有使用正则表达式的时候,nginx会先在server中的多个location选取匹配度最高的一个uri

  uri是用户请求的字符串,即域名后面的web文件路径,然后使用该location模块中的正则url和字符串,如果匹配成功就结束搜索,并使用此location处理此请求。

=     #用于标准uri前,需要请求字串与uri精确匹配,大小敏感,如果匹配成功就停止向下匹配并立即处理请求

^~           #用于标准uri前,表示包含正则表达式,并且匹配以指定的正则表达式开头

            #对uri的最左边(开头部分,/test/xxx)部分做匹配检查,区分字符大小写 

~             #用于标准uri前,表示包含正则表达式,并且区分大小写

~*             #用于标准uri前,表示包含正则表达式,并且不区分大写

不带符号     #匹配起始于此uri的所有的uri

\      #用于标准uri前,表示包含正则表达式并且转义字符。可将 . * ?等转义为普通符号

匹配优先级从高到低: = ,  ^~,  ~ / ~*,  不带符号

# vim /usr/local/nginx/conf.d/vhosts.conf   

    location  = ,  ^~,  ~ / ~*, 不带符号  /alias   {

Nginx 账户认证功能

由 ngx_http_auth_basic_module 模块提供此功能

# htpasswd -cm /usr/local/nginx/.htpasswd admin   【没有认证文件要加c

# htpasswd -m /usr/local/nginx/.htpasswd lee   【有了认证文件加c会覆盖原文件】

# cat /usr/local/nginx/.htpasswd        【查看认证】

# vim /usr/local/nginx/conf.d/vhosts.conf

server{

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    location /login/ {

        root /web/;

        index index.html;

        auth_basic "Please input username and password";

        auth_basic_user_file /usr/local/nginx/.htpasswd;

    }

}

# systemctl restart nginx.service

# curl www.timinglee.org/login/

# curl www.timinglee.org/login/ -u admin:lee

自定义错误页面

自定义错误页,同时也可以用指定的响应状态码进行响应, 可用位置:http, server, location, if in location

# mkdir -p /web/errorpage       【创建错误文件】

# echo "error.html" > /web/errorpage/error.html     【定义错误文件内容】

# vim /usr/local/nginx/conf.d/vhosts.conf

server{

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    error_page 500 502 503 504 404 /errorpage/error.html;      #此参数中所有500 502类字符串之间只能用空格来分割。并且空格个数只能为1格

    location /errorpage {

        root /web/;

    }

}

# curl www.timinglee.org/haha

自定义错误日志

可以自定义错误日志

# vim /usr/local/nginx/conf.d/vhosts.conf

server{

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    error_page 500 502 503 504 404 /errorpage/error.html;

    error_log /usr/local/nginx/logs/tlminglee.org.err;        # 错误日志

    access_log /usr/local/nginx/logs/timinglee.org.access;    # 访问日志

    location /errorpage {

        root /web/;

    }

}

# systemctl restart nginx.service

# curl www.timinglee.org/haha      【访问发出日志】

# tail -f /usr/local/nginx/logs/timinglee.org.err 查看结果:

# tail -f /usr/local/nginx/logs/timinglee.org.access 查看结果:

检测文件是否存在

    try_files会按顺序检查文件是否存在,返回第一个找到的文件或文件夹(结尾加斜线表示为文件夹),如果所有文件或文件夹都找不到,会进行一个内部重定向到最后一个参数。只有最后一个参数可以引起一个内部重定向,之前的参数只设置内部URI的指向。最后一个参数是回退URI且必须存在,否则会出现内部500错误。

# echo default > /web/errorpage/default.html

# vim /usr/local/nginx/conf.d/vhosts.conf

server{

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    error_page 500 502 503 504 404 /errorpage/error.html;

    error_log /usr/local/nginx/logs/tlminglee.org.err;      # 错误日志

    access_log /usr/local/nginx/logs/timinglee.org.access; # 访问日志

    try_files $uri $uri.html $uri/index.html /errorpage/default.html;   # 当检测的所有指定文件不存在时访问default.html

    location /errorpage {

        root /web/;

    }

}

# curl www.timinglee.org/haha    【访问文件】

# rm -fr /web/errorpage/default.html   【删除文件】

# curl www.timinglee.org/haha       【再次访问】

长连接配置

    keepalive_timeout timeout [header_timeout];      #设定保持连接超时时长,0表示禁止长连接,默认为75s

                                            #通常配置在http字段作为站点全局配置

    keepalive_requests 数字;            #在一次长连接上所允许请求的资源的最大数量

                                        #默认为100,建议适当调大,比如:500

示例:

    keepalive_requests 3;

    keepalive_timeout 65 60;

  #开启长连接后,返回客户端的会话保持时间为60s,单次长连接累计请求达到指定次数请求或65秒就会被断开,第二个数字60为发送给客户端应答报文头部中显示的超时时间设置为60s:如不设置客户端将不显示超时时间。

# cd ../conf/

# vim nginx.conf      【长链接配置一般在nginx的主配置文件中

# systemctl restart nginx.service

# telnet www.timinglee.org 80     【测试】

    GET / HTTP/1.1       

    HOST: www.timinglee.org        # 可输入内容

# vim nginx.conf  

# systemctl restart nginx.service

作为下载服务器配置

    ngx_http_autoindex_module 模块处理以斜杠字符 "/" 结尾的请求,并生成目录列表,可以做为下载服务配置使用

相关指令:

    autoindex on | off;                 #自动文件索引功能,默为off

    autoindex_exact_size on | off;         #计算文件确切大小(单位bytes),off 显示大概大小(单位KM),默认on

    autoindex_localtime on | off ;        #显示本机时间而非GMT(格林威治)时间,默认off

    autoindex_format html | xml | json | jsonp;       #显示索引的页面文件风格,默认html

    limit_rate rate;     #限制响应客户端传输速率(GETHEAD以外的所有方法),单位

    B/s,bytes/second        #默认值0,表示无限制,此指令由

    ngx_http_core_module提供

    set $limit_rate 4k;         #也可以通变量限速,单位B/s,同时设置,此项优级高.

实现下载站点

# mkdir /web/download    【创建共享资源存放目录】

# cp /root/anaconda-ks.cfg /web/download

# dd if=/dev/zero of=/web/download/lee bs=1M count=500    【建立实验素材】

# vim /usr/local/nginx/conf.d/vhosts.conf

server{

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    location /download/ {

        root /web/;        # 默认目录

        autoindex on;

        autoindex_localtime on;    # 以服务器本地时间而非UTC时间显示文件修改时间

        autoindex_exact_size off; #以易读格式(KB/MB/GB)显示文件大小,而非精确字节数

        autoindex_format html;     # 目录列表以HTML格式输出

        set $limit_rate 1024k;     # 限制下载速度为1024KB/s=1Mb/s

    }

}

# systemctl restart nginx.service

# curl http://www.timinglee.org/download/      【测试要下载的目录列表】

# wget http://www.timinglee.org/download/lee    【下载查看访问,下载很慢】

Nginx 高级配置

Nginx 状态页

    基于nginx 模块 ngx_http_stub_status_module 实现,

    在编译安装nginx的时候需要添加编译参数 --with-http_stub_status_module

    否则配置完成之后监测会是提示法错误

注意: 状态页显示的是整个服务器的状态,而非虚拟主机的状态

# cd /usr/local/nginx/conf.d/

# vim vhosts.conf

    listen  80;         #端口

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    location /status {

        stub_status;                     # 启用 Nginx 内置的状态监控页面

        auth_basic "status page";         # 启用 HTTP 基础认证,访问要密码

        auth_basic_user_file "/usr/local/nginx/.htpasswd"; # 指定用户名和密码的文件路径

    }

# curl -u admin:lee http://www.timinglee.org/status     【查看状态页】

状态页用于输出nginx的基本状态信息:

Active connections:     #当前处于活动状态的客户端连接数

                    #包括连接等待空闲连接数=reading+writing+waiting

accepts             #统计总值,Nginx自启动后已经接受的客户端请求连接的总数。

handled:                #统计总值,Nginx自启动后已经处理完成的客户端请求连接总数

                #通常等于accepts,除非有因worker_connections限制等被拒绝的连接

requests:             #统计总值,Nginx自启动后客户端发来的总的请求数

Reading:         #当前状态,正在读取客户端请求报文首部的连接的连接数

                #数值越大,说明排队现象严重,性能不足

Writing      #当前状态,正在向客户端发送响应报文过程的连接数,值越大,说明访问量大

Waiting:     #当前状态,正在等待客户端发出请求的空闲连接数

            #开启 keep-alive的情况下,这个值等于active –(reading+writing)

Nginx 压缩功能

    Nginx支持对指定类型的文件进行压缩然后再传输给客户端,而且压缩还可以设置压缩比例,压缩后的文件大小将比源文件显著变小,样有助于降低出口带宽的利用率,降低企业的IT支出,不过会占用相应的CPU资源。

    Nginx对文件的压缩功能是依赖于模块 ngx_http_gzip_module,默认是内置模块

# cd /usr/local/nginx/conf

# vim nginx.conf 

  #启用或禁用gzip压缩,默认关闭

    gzip on | off;

  #压缩比由低到高从19,默认为1,值越高压缩后文件越小,但是消耗cpu比较高。基本设定未4或者5

    gzip_comp_level 4;

  #禁用IE6 gzip功能,早期的IE6之前的版本不支持压缩

    gzip_disable "MSIE [1-6]\.";

  #gzip压缩的最小文件,小于设置值的文件将不会压缩

    gzip_min_length 1k;

  #启用压缩功能时,协议的最小版本,默认HTTP/1.1

    gzip_http_version 1.0 | 1.1;

  #指定Nginx服务需要向服务器申请缓存空间的个数和大小,平台不同,默认32 4k16 8k;

    gzip_buffers number size;

  #指明仅对哪些类型的资源压缩操作;默认gzip_types text/html,不用显示指定,否则出错

    gzip_types mime-type ...;

  #如果启用压缩,是否在响应报文首部插入“Vary: Accept-Encoding”,一般建议打开

    gzip_vary on | off;

  #预压缩:直接从磁盘找到对应文件的gz后缀形式压缩文件给用户,无需消耗服务器CPU

  #注意: 来自于ngx_http_gzip_static_module模块

    gzip_static on | off;

# cp /usr/local/nginx/logs/timinglee.org.access /usr/local/nginx/html/

# echo hello > /usr/local/nginx/html/small.html         【缩小文件内容】

# cp /usr/local/nginx/logs/timinglee.org.access /usr/local/nginx/html/big.html   【要有4K】

# vim nginx.conf 

# curl --head --compressed 172.25.254.10/big.html  【访问结果只显示响应部首】

# curl --head --compressed 172.25.254.10/small.html

Nginx 变量使用

    nginx的变量可以在配置文件中引用,作为功能判断或者日志等场景使用

    变量可以分为内置变量和自定义变量

    内置变量是由nginx模块自带,通过变量可以获取到众多的与客户端访问相关的值。

$remote_addr;

          #存放了客户端的地址,注意是客户端的公网IP

$args;

      #变量中存放了URL中的所有参数

      #例如:https://search.jd.com/Search?keyword=手机&enc=utf-8

      #返回结果为: keyword=手机&enc=utf-8

$is_args

      #如果有参数为? 否则为空

$document_root;

      #保存了针对当前资源的请求的系统根目录,例如:/webdata/nginx/timinglee.org/lee

$document_uri;

      #保存了当前请求中不包含参数的URI,注意是不包含请求的指令

      #比如:http://lee.timinglee.org/var?\id=11111会被定义为/var

      #返回结果为:/var

$host;

      #存放了请求的host名称

limit_rate 10240;

    echo $limit_rate;

      #如果nginx服务器使用limit_rate配置了显示网络速率,则会显示,如果没有设置, 则显示0

$remote_port;

      #客户端请求Nginx服务器时随机打开的端口,这是每个客户端自己的端口

$remote_user;

      #已经经过Auth Basic Module验证的用户名

$request_body_file;

      #做反向代理时发给后端服务器的本地资源的名称

$request_method;

      #请求资源的方式,GET/PUT/DELETE

$request_filename;

      #当前请求资源文件的磁盘路径,由rootalias指令与URI请求生成的文件绝对路径,

      #如:webdata/nginx/timinglee.org/lee/var/index.html

$request_uri;

      #包含请求参数的原始URI,不包含主机名,相当于:$document_uri?$args,

      #例如:/main/index.do?id=20190221&partner=search

$scheme;

      #请求的协议,例如:httphttps,ftp

$server_protocol;

      #保存了客户端请求资源使用的协议的版本,例如:HTTP/1.0HTTP/1.1HTTP/2.0

$server_addr;

      #保存了服务器的IP地址

$server_name;

      #虚拟主机的主机名

$server_port;

      #虚拟主机的端口号

$http_user_agent;

      #客户端浏览器的详细信息

$http_cookie;

      #客户端的所有cookie信息

$cookie_<name>

      #name为任意请求报文首部字部cookiekey

$http_<name>

      #name为任意请求报文首部字段,表示记录请求报文的首部字段,name的对应的首部字段名需要为小写,如果有横线需要替换为下划线

    echo $http_user_agent;

    echo $http_host;

$sent_http_<name>

      #name为响应报文的首部字段,name的对应的首部字段名需要为小写,如果有横线需要替换为下划线,此变量有问题

    echo $sent_http_server;

$arg_<name>

      #此变量存放了URL中的指定参数,name为请求url中指定的参数

echo $arg_id;

# vim /usr/local/nginx/conf.d/vhosts.conf

    location = /vars {

        default_type text/plain;

        echo $uri;

        echo $remote_addr;

        echo $args;

        echo $is_args;

        echo $document_root;

        echo $document_uri;

        echo $host;

        echo $remote_port;

        echo $remote_user;

        echo $request_method;

        echo $request_filename;

        echo $request_uri;

        echo $server_protocol;

        echo $server_addr;

        echo $server_name;

        echo $server_port;

        echo $http_user_agent;

        echo $http_cookie;

        echo $scheme;

        echo $cookie_key1;

        echo $http_HOST;

        echo $arg_name;

    }

# curl -A "timinglee" -b "lee=a,key1=2" -ulee:lee www.timinglee.org/vars?name=lee

Nginx Rewrite 相关功能

    Nginx服务器利用 ngx_http_rewrite_module 模块解析和处理rewrite请求

    此功能依靠 PCRE(perl compatible regular expression),因此编译之前要安装PCRE

    rewritenginx服务器重要功能之一,用于实现URL重写,URL重写是非常有用的功能

    比如它可以在我们改变网站结构之后,不需要客户端修改原来的书签,也无需其他网站修改我们的链接,就可以设置为访问外还可以在一定程度上提高网站的安全性。

    ngx_http_rewrite_module 模块指令

if 指令

  用于条件匹配判断,并根据条件判断结果选择不同的Nginx配置,可以配置在serverlocation块中进行配置,Nginxif语法仅能使用if做单次判断,不支持使用if else或者if elif这样的多重判断

    if (条件匹配) {

        action

    }

  使用正则表达式对变量进行匹配,匹配成功时if指令认为条件为true,否则认为false,变量与表达式之间

使用以下符号链接:

=             #比较变量和字符串是否相等,相等时if指令认为该条件为true,反之为false

!=           #比较变量和字符串是否不相等,不相等时if指令认为条件为true,反之为false

~        #区分大小写字符,可通过正则表达式匹配,满足匹配为真,不满足匹配条件为假

!~         #区分大小写字符,判断是否匹配,不满足匹配条件为真,满足匹配条件为假

~*         #不区分大小写字符,可通过正则表达式匹配,满足条件为真,不满足条件为假

!~*         #不区分大小字符,判断是否匹配,满足匹配条件为假,不满足匹配条件为真

-f !-f         #判断请求的文件是否存在和是否不存在

-d !-d         #判断请求的目录是否存在和是否不存在

-x !-x         #判断文件是否可执行和是否不可执行

-e !-e        #判断请求的文件或目录是否存在和是否不存在(包括文件,目录,软链接)

注意:如果$变量的值为空字符串或0,则if指令认为该条件为false,其他条件为truenginx 1.0.1之前$变量的值如果以0开头的任意字符串会返回false

# vim /usr/local/nginx/conf.d/vhosts.conf

location /rewritef {

        set $name hahahahahahaha;

        if ($http_user_agent = lee) {

            echo lee $name;

        }

        if ($http_user_agent = timinglee) {

            echo timinglee $name;

        }

}

set 指令

  指定key并给其定义一个变量,变量可以调用Nginx内置变量赋值给key

  另外set定义格式为set $key valuevalue可以是text, variables和两者的组合。

break 指令

  用于中断当前相同作用域(location)中的其他Nginx配置

  与该指令处于同一作用域的Nginx配置中,位于它前面的配置生效

  位于后面的 ngx_http_rewrite_module 模块中指令就不再执行

  Nginx服务器在根据配置处理请求的过程中遇到该指令的时候,回到上一层作用域继续向下读取配置,该指令可以在server块和locationif块中使用

# vim /usr/local/nginx/conf.d/vhosts.conf

    location /break {

        set $testl test1;    #定义变量

        echo $testl;

        if ($http_user_agent = lee) {

            break;      #中断命令

        }

        set $test2 test2;

        echo $test2;

    }

# curl -A "timinglee" www.timinglee.org/rewritef

# curl -A "lee" www.timinglee.org/break

return 指令

  return用于完成对请求的处理,并直接向客户端返回响应状态码,比如:可以指定重定向URL(对于特殊重定向状态码,301/302) 或者是指定提示文本内容(对于特殊状态码403/500),此指令后所有配置都将不被执行,return可以在serverif  location块配置

# vim /usr/local/nginx/conf.d/vhosts.conf

    location /return {

        return 200 "hahahahahahhahahahah\n";

    }

rewrite 指令

    通过正则表达式的匹配来改变URI,可以同时存在一个或多个指令,按照顺序依次对URI进行匹配,rewrite主要是针对用户请求的URL或者是URI做具体处理

    格式:rewrite  regex  replacement  [flag];

    rewrite将用户请求的URI基于regex所描述的模式进行检查,匹配到时将其替换为表达式指定的新的URI

注意:如果在同一级配置块中存在多个rewrite规则,那么会自下而下逐个检查;被某条件规则替换完成后,会重新一轮的替换检查,隐含有循环机制,但不超过10;如果超过,提示500响应码,[flag]所表示的标志位用于控制此循环机制

    如果替换后的URL是以http://https://开头,则替换结果会直接以重定向返回给客户端, 即永久重定向301

.         #匹配除换行符以外的任意字符

\w         #匹配字母或数字或下划线或汉字

\s         #匹配任意的空白符

\d         #匹配数字

\b         #匹配单词的开始或结束

^         #匹配字付串的开始

$         #匹配字符串的结束

*         #匹配重复零次或更多次

+         #匹配重复一次或更多次

?         #匹配重复零次或一次

(n)         #匹配重复n

{n,}         #匹配重复n次或更多次

{n,m}         #匹配重复nm

*?         #匹配重复任意次,但尽可能少重复

+?         #匹配重复1次或更多次,但尽可能少重复

??         #匹配重复0次或1次,但尽可能少重复

{n,m}?         #匹配重复nm次,但尽可能少重复

{n,}?         #匹配重复n次以上,但尽可能少重复

\W         #匹配任意不是字母,数字,下划线,汉字的字符

\S         #匹配任意不是空白符的字符

\D         #匹配任意非数字的字符

\B         #匹配不是单词开头或结束的位置

[^x]         #匹配除了x以外的任意字符

[^lee]         #匹配除了lee 这几个字母以外的任意字符

rewrite flag 使用介绍

利用nginx的rewrite的指令,可以实现url的重新跳转,rewrite有四种不同的flag,分别是redirect(临时重定向302)permanent(永久重定向301)breaklast。其中前两种是跳转型的flag,后两种是代理型

    跳转型指由客户端浏览器重新对新地址进行请求

    代理型是在WEB服务器内部实现跳转

# vim /usr/local/nginx/conf.d/vhosts.conf

    location /test {

        rewrite ^/test http://www.timinglee.org;

}

# curl www.timinglee.org/test     【临时重定向302访问一次重定向一次】

# curl -L www.timinglee.org/test    【自动跳转到新地址并返回最终内容】

# vim /usr/local/nginx/conf.d/vhosts.conf

        rewrite ^/test http://www.timinglee.org permanent;

# curl www.timinglee.org/test   

rewrite的break 与 last

    访问break请求被rewrite至test1,而访问test1转递请求再次被rewrite发送至test2,测试last和break分别有什么区别。

# mkdir /web/html/{test1,test2,break,last}

# echo test1 > /web/html/test1/index.html

# echo test2 > /web/html/test2/index.html

# echo last > /web/html/last/index.html

# echo break > /web/html/break/index.html

# vim /usr/local/nginx/conf.d/vhosts.conf

    location /break {

        rewrite ^/break/(.*) /test1/$1 break;  # 执行成功,下一行不执行

        rewrite ^/test1/(.*) /test2/$1;     # 上一行不匹配正则,这一行执行

    }

    location /last {

        rewrite ^/last/(.*) /test2/$1 last;   # 请求curl不匹配规则,会执行下一行

        rewrite ^/test1/(.*) /test1/$1;    #  (.*)需要 /last/ 后至少1个字符

    }

    location /test1 {

        return 200 "test1 aaaa\n" ;

    }

    location /test2 {

        return 200 "test2 haha\n";

    }

# systemctl restart nginx.service

# curl -L www.timinglee.org/ break , last)/index.html

# curl www.timinglee.org/test1,2)

# curl www.timinglee.org/ break , last)/

# curl www.timinglee.org/break/123

# curl www.timinglee.org/last/456

自动跳转 https

案例:基于通信安全考虑公司网站要求全站 https,因此要求将在不影响用户请求的情况下将http请求全部自动跳转至 https,另外也可以实现部分 location 跳转。

# sudo mkdir -p /usr/local/nginx/certs

# sudo chmod 700 /usr/local/nginx/certs

# openssl req -newkey rsa:2048 -nodes -sha256 -keyout /usr/local/nginx/certs/timinglee.org.key -x509 -days 365 -out /usr/local/nginx/certs/timinglee.org.crt

# ls /usr/local/nginx/certs      【查看证书目录】

全站加密策略

# vim /usr/local/nginx/conf.d/vhosts.conf

server {

    listen  80;         #端口

    listen  443 ssl;

    server_name www.timinglee.org;  #访问域名

    root    /web/html;      #默认发布目录

    index   index.html;     #默认发布文件

    error_page 500 502 503 504 404 /errorpage/error.html;

    error_log /usr/local/nginx/logs/tlminglee.org.err;

    access_log /usr/local/nginx/logs/timinglee.org.access;

    ssl_certificate     /usr/local/nginx/certs/timinglee.org.crt;

    ssl_certificate_key /usr/local/nginx/certs/timinglee.org.key;

    ssl_session_cache   shared:SSL:1m;

    ssl_session_timeout 5m;

    ssl_ciphers         HIGH:!aNULL:!MD5;

    location / {

        if ($scheme = http ) {

            rewrite /(.*) https://$host/$1;

        }

    }

}

# curl -I http://www.timinglee.org

判断文件是否存在     

案例:当用户访问到公司网站的时输入了一个错误的URL,可以将用户重定向至官网首页

# vim vhosts.conf

    location / {

        if ( !-e $request_filename ) {

            rewrite /(.*) https://$host/index.html;

        }

}

# curl -v http://www.timinglee.org

# curl -v http://www.timinglee.org/aaa

Nginx 防盗链

    防盗链基于客户端携带的referer实现,referer是记录打开一个页面之前记录是从哪个页面跳转过来的标记信息,如果别人只链接了自己网站图片或某个单独的资源,而不是打开网站整个页面,这就是盗链,referer就是之前的网站域名,正常的referer信息有以下几种:

none:         #请求报文首部没有referer首部,

                    #比如用户直接在浏览器输入域名访问web网站,就没有referer信息。

blocked:             #请求报文有referer首部,但无有效值,比如为空。

server_names:       #referer首部中包含本主机名及即nginx 监听的server_name。

arbitrary_string:     #自定义指定字符串,但可使用*作通配符。

                    示例: *.timinglee.org www.timinglee.*

regular expression:    #被指定的正则表达式模式匹配到的字符串,要使用~开头,

                    例如: ~.*\.timinglee\.com

实现盗链

在一个web 站点盗链另一个站点的资源信息

测试机]# yum install httpd -y

# vim /var/www/html/index.html       【编译网页】

<html>

    <head>

        <meta http-equiv=Content-Type content="text/html;charset=utf-8">

        <title>盗链</title>

    </head>

    <body>

        <img src="http://www.timinglee.org/images/lee.png" >

        <h1 style="color:red">hahahaha</h1>

        <p><a href=http://www.timinglee.org>点我</a>出门见喜</p>

    </body>

</html>

# cat /usr/local/nginx/logs/access.log     【域名的日志】

实现防盗链

基于访问安全考虑,nginx支持通过ngx_http_referer_module模块,检查访问请求的referer信息是否有效实现防盗链功能

# vim vhosts.conf

    location / {

        valid_referers none blocked server_names *.timinglee.org ~/.baidu/.;

        if ( $invalid_referer ) {

            return 404;

        }

    }

# curl -I http://www.timinglee.org

# curl -I -H "Referer: http://illegal-site.com" http://www.timinglee.org

Nginx 反向代理功能

    反向代理:reverse proxy,指的是代理外网用户的请求到内部的指定的服务器,并将数据返回给用户的一种方式,这是用的比较多的一种方式。

    Nginx 除了可以在企业提供高性能的web服务之外,另外还可以将 nginx 本身不具备的请求通过某种预定义的协议转发至其它服务器处理,不同的协议就是Nginx服务器与其他服务器进行通信的一种规范,主要在不同的场景使用以下模块实现不同的功能

    ngx_http_proxy_module:     #将客户端的请求以http协议转发至指定服务器进行处理

    ngx_http_upstream_module    #用于定义为proxy_pass,fastcgi_pass,uwsgi_pass

                              #等指令引用的后端服务器分组

    ngx_stream_proxy_module:     #将客户端的请求以tcp协议转发至指定服务器处理

    ngx_http_fastcgi_module:   #将客户端对php请求以fastcgi协议转发至指定服务器助理

    ngx_http_uwsgi_module:     #将客户端对Python请求以uwsgi协议至指定服务器处理

    同构代理:用户不需要其他程序参与,直接通过http协议或者tcp协议访问后端服务器

    异构代理:用户访问的资源时需要经过处理后才能返回的,比如php,python,等等,这种访问资源需要经过处理才能被访问

实现 http 反向代理

反向代理配置参数

proxy_pass;     #用来设置将客户端请求转发给的后端服务器的主机

               #可以是主机名(将转发至后端服务做为主机头首部)、IP地址:端口的方式

          #也可以代理到预先设置的主机群组,需要模块ngx_http_upstream_module支持

location /web {

index index.html;

proxy_pass http://172.25.254.30:8080;     #8080后面无uri,即无 / 符号,

    #需要将location后面url 附加到proxy_pass指定的url后面

    #此行为类似于root

    #proxy_pass指定的uri不带斜线将访问的/web

    #等于访问后端服务器

proxy_pass http://172.25.254.40:8080/;     #8080后面有uri,即有 / 符号

    #相当于置换,即访问/web时实际返回proxy_pass后面uri内容

    #此行为类似于alias

    #proxy_pass指定的uri带斜线

    #等于访问后端服务器的

    #http://172.25.254.40:8080/index.html

    #内容返回给客户端

    #如果location定义其uri时使用了正则表达式模式(包括~,~*,但不包括^~),则proxy_pass之后必须不能使用uri

    #即不能有/ ,用户请求时传递的uri将直接附加至后端服务器之后

proxy_hide_header field;     #用于nginx作为反向代理的时候

    #在返回给客户端http响应时

    #隐藏后端服务器相应头部的信息

    #可以设置在http,server或location块

proxy_pass_header field;     #透传

    #默认nginx在响应报文中不传递后端服务器首部字段Date, Server, X-Pad, X-Accel等参数

    #如果要传递的话要使用 proxy_pass_header field声明将后端服务器返回值传给客户端

    #field 首部字段大小不敏感

proxy_pass_request_body on | off;

    #是否向后端服务器发送HTTP实体部分,可设置在http,server或location块,默认开启

proxy_pass_request_headers on | off;

   #是否将客户端请求头部转发给后端服务器,设置在http,server或location块,默认开启

proxy_set_header;

    #可更改或添加客户端的请求头部信息内容并转发至后端服务器,比如在后端服务器想要获取客户端的真实IP的时候,就要更改每一个报文的头部

proxy_connect_timeout time;

    #配置nginx服务器与后端服务器尝试建立连接的超时时间,默认为60秒

用法:proxy_connect_timeout 60s;

    #60s为自定义nginx与后端服务器建立连接的超时时间,超时会返回客户端504响应码

proxy_read_timeout time;

    #配置nginx服务器向后端服务器或服务器组发起read请求后,等待超时时间,默认60s

proxy_send_timeout time;

    #配置nginx项后端服务器或服务器组发起write请求后,等待的超时 时间,默认60s

proxy_http_version 1.0;

    #用于设置nginx提供代理服务的HTTP协议的版本,默认http 1.0

proxy_ignore_client_abort off;

    #当客户端网络中断请求时,nginx服务器中断其对后端服务器的请求。即如果此项设置为on开启,则服务器会忽略客户端中断并一直等着代理服务执行返回,如果设置为off,则客户端中断后Nginx也会中断客户端请求并立即记录499日志,默认为off。

指定 location 实现反向代理

所有RS]# systemctl disable --now firewalld

RS1 ~]# echo 172.25.254.100 > /var/www/html/index.html

RS2 ~]# echo "RS20 jsp" > /var/www/html/index.jsp

websera ~]# vim /usr/local/nginx/conf.d/vhosts.conf

server {

    listen  80;

    server_name www.timinglee.org;

location / {

        proxy_pass http://172.25.254.100:80;

    }

    location ~ /static {

        proxy_pass http://172.25.254.200:80;

    }

针对特定的资源实现代理

server {

    listen  80;

    server_name www.timinglee.org;

    location / {

        proxy_pass http://172.25.254.100:80;    #无满足条件访问100

    }

    location ~ \.(php|jsp) {

        proxy_pass http://172.25.254.200:80;    #后缀是php或jsp访问200

    }

}

# curl www.timinglee.org

# curl www.timinglee.org/index.jsp

反向代理示例: 缓存功能

缓存功能默认关闭状态,需要先动配置才能启用

proxy_cache zone_name | off; 默认off

    #指明调用的缓存,或关闭缓存机制;Context:http, server, location

    #zone_name 表示缓存的名称.需要由proxy_cache_path事先定义

proxy_cache_key string;

    #缓存中用于的内容,默认值:proxy_cache_key $scheme$proxy_host$request_uri;

proxy_cache_valid [code ...] time;

    #定义对特定响应码的响应内容的缓存时长,定义在http{...}

        proxy_cache_valid 200 302 10m;

        proxy_cache_valid 404 1m;

proxy_cache_path;

    #定义可用于proxy功能的缓存;Context:http

        proxy_cache_path path [levels=levels] [use_temp_path=on|off]

        keys_zone=zone_name:size [inactive=time] [max_size=size] [manager_files=number]

        [manager_sleep=time] [manager_threshold=time] [loader_files=number]

        [loader_sleep=time] [loader_threshold=time] [purger=on|off]

        [purger_files=number] [purger_sleep=time] [purger_threshold=time];

示例:在http配置定义缓存信息

proxy_cache_path /var/cache/nginx/proxy_cache     #定义缓存保存路径,proxy_cache会自动创建levels=1:2:2

                             #定义缓存目录结构层次

                                #1:2:2可以生成

2^4x2^8x2^8=2^20=1048576个目录

keys_zone=proxycache:20m      #指内存中缓存的大小,主要用于存放keymetadata    

                            #一般1M可存放8000个左右的key

inactive=120s             #缓存有效时间

max_size=10g;             #最大磁盘占用空间,磁盘存入文件内容的缓存空间最大值

调用缓存功能,需要定义在相应的配置段,如server{...};或者location

proxy_cache proxycache;

proxy_cache_key $request_uri;         #对指定的数据进行MD5的运算做为缓存的key

proxy_cache_valid 200 302 301 10m;     #指定的状态码返回的数据缓存多长时间

proxy_cache_valid any 1m;            #除指定的状态码返回的数据以外的缓存多长时间,必须设置,否则不会缓存

proxy_cache_use_stale error | timeout | invalid_header | updating | http_500 |

http_502 | http_503 | http_504 | http_403 | http_404 | off ;     #默认是off

    #在被代理的后端服务器出现哪种情况下,可直接使用过期的缓存响应客户端

    #示例 :proxy_cache_use_stale error http_502 http_503;

proxy_cache_methods GET | HEAD | POST ...;

    #对哪些客户端请求方法对应的响应进行缓存,GETHEAD方法总是被缓存

RS2 ~]# vim /etc/hosts

172.25.254.10 www.timinglee.org

# ab -n 1000 -c 100 http://www.timinglee.org/index.html      【测试访问】

# vim /usr/local/nginx/conf/nginx.conf

http {     #【这个块中添加内容】

proxy_cache_path /usr/local/nginx/cache levels=1:2:2 keys_zone=proxycache:20m inactive=120s max_size=1g;

# vim /usr/local/nginx/conf.d/vhosts.conf

server {

    listen  80;

    server_name www.timinglee.org;

    location / {

        proxy_pass http://www.timinglee.org;

        proxy_cache         proxycache;

        proxy_cache_key     $request_uri;

        proxy_cache_valid   200 302 301 10m;

        proxy_cache_valid   404 1m;

RS2 ~]# ab -n 1000 -c 100 http://www.timinglee.org/index.html 

websera ~]# systemctl restart nginx.service

RS2 ~]# ab -n 1000 -c 100 http://www.timinglee.org/index.html 

http 反向代理负载均衡

    在上一个节中Nginx可以将客户端的请求转发至单台后端服务器但是无法转发至特定的一组的服务器,而且不能对后端服务器提供相应的服务器状态监测,Nginx 可以基于ngx_http_upstream_module模块提供服务器分组转发、权重分配、状态监测、调度算法等高级功能

server支持的parameters

    weight=number     #设置权重,默认为1,实现类似于LVS中的WRR,WLC

    max_conns=number  #给当前后端server设置最大活动链接数,默认为0表示没有限制

    max_fails=number     #后端服务器的下线条件,当客户端访问时,对本次调度选中的后端服务器连续进行检测多少次,如果都失败就标记为不可用,默认为1,当客户端访问时,才会利用TCP触发对探测后端服务器健康性检查,而非周期性的探测

    fail_timeout=time     #后端服务器的上线条件,对已经检测到处于不可用的后端服务器,每隔此时间间隔再次进行检测是否恢复可用,如果发现可用,则将后端服务器参与调度,默认为10

    backup     #设置为备份服务器,当所有后端服务器不可用时,才会启用此备用服务器

    down     #标记为down状态,可以平滑下线后端服务器

    resolve     #当server定义的是主机名的时候,当A记录发生变化会自动应用新IP而不用重启Nginx

hash KEY [consistent];

    #基于指定请求报文中首部字段或者URIkeyhash计算,使用consistent参数,将使用ketama一致性hash算法,适用于后端是Cache服务器(如varnish)时使用,consistent定义使用一致性hash运算,一致性hash基于取模运算

hash $request_uri consistent;         #基于用户请求的urihash

hash $cookie_sessionid    #基于cookie中的sessionid这个key进行hash调度,实现会话绑定

ip_hash;

    #源地址hash调度方法,基于的客户端的remote_addr(源地址IPv4的前24位或整个IPv6地址)hash计算,以实现会话保持

least_conn;

    #最少连接调度算法,优先将客户端请求调度到当前连接最少的后端服务器,相当于LVS中的WLC

后端多台 web服务器

# vim /usr/local/nginx/conf.d/vhosts.conf

upstream webserver {

    server 172.25.254.100:80 weight=1 max_fails=3 fail_timeout=15s;

    server 172.25.254.200:80 weight=1 max_fails=3 fail_timeout=15s;

    server 172.25.254.10:8888 backup;

}

server {

    listen  80;

    server_name www.timinglee.org;

    location / {

        proxy_pass http://webserver;    #只要这个内容,后面需要#格式化

    }

}

# for i in {1..4}; do curl www.timinglee.org; done

RS1 ~]# systemctl stop httpd.service    【模拟RS1故障】

RS2 ~]# systemctl stop httpd.service      【模拟都故障】

# vim /usr/local/nginx/conf.d/vhosts.conf

upstream webserver {

    ip_hash;    #源地址hash调度方法

    server 172.25.254.100:80 weight=1 max_fails=3 fail_timeout=15s;

    server 172.25.254.200:80 weight=1 max_fails=3 fail_timeout=15s;

    #server 172.25.254.10:8888 backup;

}

基于Cookie 实现会话绑定

# vim /usr/local/nginx/conf.d/vhosts.conf

upstream webserver {

    #ip_hash;

hash $request_uri consistent;

RS1 ~]# mkdir -p /var/www/html/lee/

# echo "100 lee" > /var/www/html/lee/index.html

# vim /usr/local/nginx/conf.d/vhosts.conf

    #ip_hash;

    #hash $request_uri consistent;

    hash $cookie_lee;      #根据key进行hash

# curl -b "lee=aaaa" www.timinglee.org

# curl -b "lee=bbbb" www.timinglee.org

实现 Nginx 四层负载均衡

Nginx在1.9.0版本开始支持tcp模式的负载均衡,在1.9.13版本开始支持udp协议的负载,udp主要用于DNS的域名解析,其配置方式和指令和http 代理类似,其基于ngx_stream_proxy_module模块实现tcp负载,另外基于模块ngx_stream_upstream_module实现后端服务器分组转发、权重分配、状态监测、调度算法等高级功能。

    如果编译安装,需要指定 --with-stream 选项才能支持ngx_stream_proxy_module模块

udp 负载均衡实例: DNS和tcp负载均衡配置

tcp的负载均衡要配置在http语句块之外

所有RS ~]# dnf install bind -y

# vim /etc/named.conf      【格式化可以等于any全部开启】

# vim /etc/named.rfc1912.zones           【配置dns】

RS2 ~]# cd /var/named/

# cp -p named.localhost "timinglee.org.zone"

# vim timinglee.org.zone

# scp "timinglee.org.zone" root@172.25.254.100:/var/named/"timinglee.org.zone"【复制内容】

RS1 ~]# cd /var/named/

# chgrp named timinglee.org.zone       【更改所属】

所有RS ~]# systemctl restart named

# dig @172.25.254.200 dns.timinglee.org      【验证】

# dig @172.25.254.100 dns.timinglee.org

websera ~]# vim /usr/local/nginx/conf/nginx.conf

# mkdir -p /usr/local/nginx/tcp.d/

# cd /usr/local/nginx/tcp.d/

# vim dns.conf

stream {                   #定义stream相关的服务;

    upstream dns {            #定义后端服务器组

        server 172.25.254.100:53 max_fails=3 fail_timeout=5;   #定义具体server

        server 172.25.254.200:53 max_fails=3 fail_timeout=5;

    }

    server {            #定义server

        listen 53 udp;     #开启udp端口

        proxy_pass dns;   #转发到具体服务器组

    }

    server {

        listen 53;          #开启tcp的53端口

        proxy_pass dns;

    }

}

# nginx -t         【检测无报错】

# nginx -s reload

# netstat -antlupe | grep nginx 查看结果:

# dig @172.25.254.10 dns.timinglee.org       【访问2次】

负载均衡实例: MySQL

所有RS ~]# dnf install mariadb-server -y

# vim /etc/my.cnf.d/mariadb-server.cnf    【配置id】

# systemctl start mariadb

# mysql -e "grant all on *.* to lee@'%' identified by 'lee';"    【添加用户和密码】

# mysql -ulee -plee -h172.25.254.200 -e "select @@server_id"    【检测】

# mysql -ulee -plee -h172.25.254.100 -e "select @@server_id"

websera ~]# vim dns.conf

stream {

    upstream mariadb {

        server 172.25.254.100:3306 max_fails=3 fail_timeout=4;

        server 172.25.254.200:3306 max_fails=3 fail_timeout=4;

    }

    server {

        listen 3306;

        proxy_pass mariadb;

    }

}

# systemctl restart nginx.service

# yum install mariadb -y

# mysql -ulee -plee -h172.25.254.10 -e "select @@server_id"

RS1 ~]# systemctl stop mariadb

websera ~]# mysql -ulee -plee -h172.25.254.10 -e "select @@server_id"

实现 FastCGI    

CGI的由来:

最早的Web服务器只能简单地响应浏览器发来的HTTP请求,并将存储在服务器上的HTML文件返回给浏览器,也就是静态html文件,但是后期随着网站功能增多网站开发也越来越复杂,以至于出现动态技术,比如像php(1995)java(1995)python(1991)语言开发的网站,但是nginx/apache服务器并不能直接运行 phpjava这样的文件,apache实现的方式是打补丁。

    但是nginx缺通过与第三方基于协议实现,即通过某种特定协议将客户端请求转发给第三方服务处理,第三方服务器会新建新的进程处理用户的请求,处理完成后返回数据给Nginx并回收进程,最后nginx在返回给客户端,那这个约定就是通用网关接口(common gateway interface,简称CGI)CGI(协议) 是web服务器和外部应用程序之间的接口标准,是cgi程序和web服务器之间传递信息的标准化接口。

为什么会有FastCGI

    CGI协议虽然解决了语言解析器和 Web Server 之间通讯的问题,但是它的效率很低,因为 Web Server每收到一个请求都会创建一个CGI进程,PHP解析器都会解析php.ini文件,初始化环境,请求结束的时候再关闭进程,对于每一个创建的CGI进程都会执行这些操作,所以效率很低,而FastCGI是用来提高CGI性能的,FastCGI每次处理完请求之后不会关闭掉进程,而是保留这个进程,使这个进程可以处理多个请求。这样的话每个请求都不用再重新创建一个进程了,大大提升了处理效率。

什么是PHP-FPM

  PHP-FPMFastCGI  Process  Manager):

    FastCGI进程管理器)是一个实现了Fastcgi的程序,并且提供进程管理的功能。

    进程包括master进程和worker进程。master进程只有一个,负责监听端口,接受来自web server的请求

    worker进程一般会有多个,每个进程中会嵌入一个PHP解析器,进行PHP代码的处理。

FastCGI配置指令

    Nginx基于模块ngx_http_fastcgi_module实现通过fastcgi协议将指定的客户端请求转发至php-fpm处理,其配置指令如下:

fastcgi_pass address:port;

      #转发请求到后端服务器,address为后端的fastcgi server的地址,可用位置:location, fastcgi_index name;

      #fastcgi默认的主页资源,示例:fastcgi_index index.php;

fastcgi_param parameter value [if_not_empty];

      #设置传递给FastCGI服务器的参数值,可以是文本,变量或组合,可用于将Nginx的内置变量赋值给自定义key

    fastcgi_param REMOTE_ADDR $remote_addr;       #客户端源IP

    fastcgi_param REMOTE_PORT $remote_port;       #客户端源端口

    fastcgi_param SERVER_ADDR $server_addr;       #请求的服务器IP地址

    fastcgi_param SERVER_PORT $server_port;         #请求的服务器端口

    fastcgi_param SERVER_NAME $server_name;       #请求的server name

Nginx默认配置示例:

    location ~ \.php$ {

        root           /scripts;

        fastcgi_pass     127.0.0.1:9000;

        fastcgi_index     index.php;

        fastcgi_param  SCRIPT_FILENAME /scripts$fastcgi_script_name;     #默认脚本路径

        #fastcgi_param  SCRIPT_FILENAME $document_root$fastcgi_script_name;

        include   fastcgi_params;  #此文件默认系统已提供,存放的相对路径为 prefix/conf

    }

Nginx与php-fpm在同一服务器

  编译安装更方便自定义参数或选项,所以推荐大家使用源码编译

源码编译php

# dnf install -y bzip2 systemd-devel libxml2-devel sqlite-devel libpng-devel libcurl-devel oniguruma.x86_64

# ./configure --prefix=/usr/local/php --with-config-file-path=/usr/local/php/etc --enable-fpm --with-fpm-user=nginx --with-fpm-group=nginx --with-curl --with-iconv --with-mhash --with-zlib --with-openssl --enable-mysqlnd --with-mysqli --with-pdo-mysql --disable-debug --enable-sockets --enable-soap --enable-xml --enable-ftp --enable-gd --enable-exif --enable-mbstring --enable-bcmath --with-fpm-systemd

php相关配置优化

# cd /usr/local/php/etc

# cp php-fpm.conf.default php-fpm.conf

# vim php-fpm.conf

# cd php-fpm.d/

# cp www.conf.default www.conf

# cd /root/php-8.3.9/

# cp sapi/fpm/php-fpm.service /lib/systemd/system/    【复制文件,配置开机启动】

# vim /lib/systemd/system/php-fpm.service

# systemctl start php-fpm.service    【开启】

# netstat -antlupe | grep php     【查看内容】

# mkdir -p /web/html/php    【创建php访问文件】

# echo "<?php phpinfo(); ?>" > /web/html/php/index.html    【输入内容】

# vim /usr/local/nginx/conf.d/vhosts.conf

    location ~ \.php$ {

        fastcgi_pass 127.0.0.1:9000;

        fastcgi_index index.php;

        fastcgi_param SCRIPT_FILENAME  /scripts$fastcgi_script_name;

        include fastcgi.conf;

    }

# systemctl restart nginx.service

# curl -v http://www.timinglee.org/php/index.html     【测试访问】

虚拟机访问http://www.timinglee.org/php/index.html

添加php环境变量

# echo "export PATH=$PATH:/usr/local/php/bin:/usr/local/php/sbin" >> ~/.bash_profile

# source ~/.bash_profile

php的动态扩展模块

安装memcache模块

# tar zxf memcache-8.2.tgz

# cd memcache-8.2/

# dnf install autoconf

# phpize          【编译软件】

# ./configure && make && make install

# ls /usr/local/php/lib/php/extensions/no-debug-non-zts-20230831/     【检测】

复制测试文件到nginx发布目录中

# cp example.php memcache.php /usr/local/nginx/html/    【复制到web的默认发布目录】

# vim /usr/local/nginx/html/memcache.php

# vim /usr/local/nginx/conf.d/vhosts.conf

配置php加载memcache模块

# cp /root/php-8.3.9/php.ini-development /usr/local/php/etc/php.ini

# vim /usr/local/php/etc/php.ini

# systemctl reload php-fpm

部署memcached

# yum install memcached -y

# systemctl enable --now memcached.service

# netstat -antlupe | grep memcache

# vim /etc/sysconfig/memcached

# ab -n500 -c10 http://www.timinglee.org/memcache.php     【设置访问】

php高速缓存

部署方法

在我们安装的nginx中默认不支持memcsrcache功能,需要借助第三方模块来让nginx支持此功能,所以nginx需要重新编译。

# cd /mnt/

# tar zxf srcache-nginx-module-0.33.tar.gz

# tar zxf memc-nginx-module-0.20.tar.gz

# cd nginx-1.26.1/

# ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_ssl_module  --with-http_v2_module --with-http_realip_module --with-http_stub_status_module  --with-http_gzip_static_module --with-stream --with-stream_realip_module --with-stream_ssl_module --with-pcre --add-module=/mnt/echo-nginx-module-0.63 --add-module=/mnt/memc-nginx-module-0.20 --add-module=/mnt/srcache-nginx-module-0.33 

# vim /usr/local/nginx/conf.d/vhosts.conf

upstream memcache {

    server 127.0.0.1:11211;

    keepalive 512;

}

server {

    listen 80;

    server_name www.timinglee.org;

    root /web/html;

    location /memc {

        internal;

        memc_connect_timeout 100ms;

        memc_send_timeout 100ms;

        memc_read_timeout 100ms;

        set $memc_key $query_string;    #使用内置变量$query_string来作为key

        set $memc_exptime 300;          #缓存失效时间300秒

        memc_pass memcache;

    }

    location ~ \.php$ {

        set $key $uri$args;             #设定key的值

        srcache_fetch GET /memc $key;   #检测mem中是否有要访问的php

        srcache_store PUT /memc $key;   #缓存为加载的php数据

        fastcgi_pass 127.0.0.1:9000;

        fastcgi_index index.php;

        include fastcgi.conf;

    }

}

# ab -n5000 -c500 http://www.timinglee.org/php/index.php

# systemctl restart nginx.service     【重启查看缓存是否加速】

nginx 二次开发版本

openresty

    Nginx 是俄罗斯人发明的, Lua 是巴西几个教授发明的,中国人章亦春把 LuaJIT VM 嵌入到 Nginx 中,实现了 OpenResty 这个高性能服务端解决方案

    OpenResty® 是一个基于 Nginx  Lua 的高性能 Web 平台,其内部集成了大量精良的 Lua 库、第三方模块以及大多数的依赖项。用于方便地搭建能够处理超高并发、扩展性极高的动态 Web 应用、Web 服务和动态网关。

    OpenResty® 通过汇聚各种设计精良的 Nginx 模块(主要由 OpenResty 团队自主开发),从而将Nginx有效地变成一个强大的通用 Web 应用平台。这样,Web 开发人员和系统工程师可以使用 Lua 脚本语言调动 Nginx 支持的各种 C 以及 Lua 模块,快速构造出足以胜任 10K 乃至 1000K 以上单机并发连接的高性能 Web 应用系统。

    OpenResty 由于有功能强大且方便的的API,可扩展性更强,如果需要实现定制功能,OpenResty是个不错的选择

编译安装 openresty

# dnf -yq install gcc pcre-devel openssl-devel perl

# useradd -r -s /sbin/nologin nginx

# cd /mnt/

# tar zxf openresty-1.25.3.1.tar.gz

# cd openresty-1.25.3.1/

# ./configure --prefix=/apps/openresty --user=nginx --group=nginx --with-http_ssl_module --with-http_v2_module  --with-http_realip_module  --with-http_stub_status_module --with-http_gzip_static_module  --with-pcre  --with-stream  --with-stream_ssl_module --with-stream_realip_module

# make && make install

# vim ~/.bash_profile     【编辑当前用户的 Bash Shell 环境配置】

# source ~/.bash_profile

# vim ~/.bashrc      【编译环境变量】

# source ~/.bashrc

# openresty -v      【查看版本】

# openresty

# ps -ef |grep nginx

http://www.xdnf.cn/news/1208953.html

相关文章:

  • EnergyMath芯详科技 EMS4100/MES4000/MES3900
  • 如何保证DoIP的网络安全?
  • 基于 xlsx-js-style 的 Excel 导出工具实现导出excel
  • 40+个常用的Linux指令——下
  • haproxy应用详解
  • 从github同步新项目的两次挫折-2025.7.29
  • 【WRF工具】服务器中安装编译GrADS
  • 信创国产Linux操作系统汇总:从桌面到服务器,百花齐放
  • 【Golang】Go语言Map数据类型
  • 随缘玩 一: 代理模式
  • 计算器4.0:新增页签功能梳理页面,通过IO流实现在用户本地存储数据
  • MySQL数据库 mysql常用命令
  • 再谈亚马逊云科技(AWS)上海AI研究院7月22日关闭事件
  • 实现视频实时马赛克
  • P1098 [NOIP 2007 提高组] 字符串的展开
  • python案例:基于python 神经网络cnn和LDA主题分析的旅游景点满意度分析
  • 小程序中事件对象的属性与方法
  • 微算法科技(NASDAQ:MLGO)应用区块链联邦学习(BlockFL)架构,实现数据的安全传输
  • Django自带的加密算法
  • 3D游戏引擎的“眼睛“:相机系统深度揭秘与技术实现
  • 14、distance_object_model_3d算子
  • 如何用命令行快速提取PPT中的所有图片?
  • 线程崩溃是否导致进程崩溃
  • 【嵌入式电机控制#18】有刷直流串级控制
  • MySQL图解索引篇
  • 大模型技术对部分岗位的影响
  • Apache Ignite 的分布式原子类型(Atomic Types)
  • 在CSS中,如果你想设置一个元素的高度(height)与其宽度(width)相匹配,但又希望宽度使用百分比来定义,你可以通过几种方式来实现。
  • 试用SAP BTP 02C:试用SAP HANA Schemas HDI Containers
  • VSCode使用Code Runner运行C/C++输出[Done] exited with code=0 in xxx seconds