💎一站式轻松地调用各大LLM模型接口,支持GPT4、智谱、星火、月之暗面及文生图 广告
[toc] ## Nginx 是如何实现高并发的? Nginx 采用的是多进程(单线程) & 多路IO复用模型。使用了 I/O 多路复用技术的 Nginx,就成了”并发事件驱动“的服务器。其实现了异步,非阻塞,使用了epoll 和大量的底层代码优化。 如果一个server采用一个进程负责一个request的方式,那么进程数就是并发数。正常情况下,会有很多进程一直在等待中。 而nginx采用一个master进程,多个woker进程的模式。 * master进程主要负责收集、分发请求。每当一个请求过来时,master就拉起一个worker进程负责处理这个请求。 * 同时master进程也负责监控woker的状态,保证高可靠性 * woker进程一般设置为跟cpu核心数一致。nginx的woker进程在同一时间可以处理的请求数只受内存限制,可以处理多个请求。 Nginx 的异步非阻塞工作方式正把当中的等待时间利用起来了。在需要等待的时候,这些进程就空闲出来待命了,因此表现为少数几个进程就解决了大量的并发问题。 >[info] 题外话: 这和PHP扩展swoole的原理一样 ![](https://box.kancloud.cn/c570433f949c547301942f8e823e9e78_562x292.png) 每进来一个request,会有一个worker进程去处理。但不是全程的处理,处理到什么程度呢?处理到可能发生阻塞的地方,比如向上游(后端)服务器转发request,并等待请求返回。那么,这个处理的worker很聪明,他会在发送完请求后,注册一个事件:“如果upstream返回了,告诉我一声,我再接着干”。于是他就休息去了。此时,如果再有request 进来,他就可以很快再按这种方式处理。而一旦上游服务器返回了,就会触发这个事件,worker才会来接手,这个request才会接着往下走。 ## 为什么 Nginx 不使用多线程? Apache: 创建多个进程或线程,而每个进程或线程都会为其分配 cpu 和内存(线程要比进程小的多,所以worker支持比perfork高的并发),并发过大会耗光服务器资源。 Nginx: 采用单线程来异步非阻塞处理请求(管理员可以配置Nginx主进程的工作进程的数量)(epoll),不会为每个请求分配cpu和内存资源,节省了大量资源,同时也减少了大量的CPU的上下文切换。所以才使得Nginx支持更高的并发。 ## 配置调优 **1\. 调整worker\_processes** 指Nginx要生成的worker数量,最佳实践是每个CPU运行1个工作进程。了解系统中的CPU核心数,输入 grep processor /proc/cpuinfo | wc -l # 或者htop htop **2\. 最大化worker\_connections** Nginx Web服务器可以同时提供服务的客户端数。与worker\_processes结合使用时,获得每秒可以服务的最大客户端数 <br /> **最大客户端数/秒=工作进程\*工作者连接数** 为了最大化Nginx的全部潜力,应将worker\_processes设置为核心一次可以运行的允许的最大进程数1024。 <br /> **3\. 启用Gzip压缩** 压缩文件大小,减少了客户端http的传输带宽,因此提高了页面加载速度。 <br /> **4\.为静态文件启用缓存** 为静态文件启用缓存,以减少带宽并提高性能,可以添加下面的命令,限定计算机缓存网页的静态文件 > 第三点和第四点 具体看前 《【nginx网站性能优化篇(1)】gzip压缩与expire浏览器缓存》 <br /> **5\. Timeouts** keepalive连接减少了打开和关闭连接所需的CPU和网络开销,获得最佳性能需要调整的变量: ![](https://box.kancloud.cn/3b8464b54c4cedb4c7404d90a9c291ef_656x93.png) <br /> **6\. 禁用access\_logs** 访问日志记录,它记录每个nginx请求,因此消耗了大量CPU资源,从而降低了nginx性能。 完全禁用访问日志记录 access\_log off; 如果必须具有访问日志记录,则启用访问日志缓冲 access\_log /var/log/nginx/access.log主缓冲区= 16k <br /> **7\. fastcgi 调优** ~~~ fastcgi_connect_timeout 600; fastcgi_send_timeout 600; fastcgi_read_timeout 600; fastcgi_buffer_size 64k; fastcgi_buffers 4 64k; fastcgi_busy_buffers_size 128k; fastcgi_temp_file_write_size 128k; fastcgi_temp_path/usr/local/nginx1.10/nginx_tmp; fastcgi_intercept_errors on; fastcgi_cache_path/usr/local/nginx1.10/fastcgi_cache levels=1:2 keys_zone=cache_fastcgi:128minactive=1d max_size=10g; ~~~ >[info] 其实可以参考网上的[lnmp一键压缩包](https://lnmp.org/),配置得就很好 参考链接: https://www.toutiao.com/i6673796893761339911/?tt_from=weixin&utm_campaign=client_share&wxshare_count=1&timestamp=1560408440&app=news_article&utm_source=weixin&utm_medium=toutiao_android&req_id=2019061314472001002307219700879DB&group_id=6673796893761339911