ThinkSSL🔒 一键申购 5分钟快速签发 30天无理由退款 购买更放心 广告
[TOC] 转载:https://www.cnblogs.com/guxuanqing/p/12416130.html 参考: https://cloud.tencent.com/developer/article/1681177 ## 什么是IO多路复用 * IO多路复用是一种同步IO模型,实现一个线程可以监视多个文件句柄;一旦某个文件句柄就绪,就能够通知应用程序进行相应的读写操作;没有文件句柄就绪时会阻塞应用程序,交出cpu。**多路是指网络连接,复用指的是同一个线程**,意思是一个线程处理多个网络连接的IO ## 为什么需要IO多路复用 没有IO多路复用机制时,有同步阻塞IO(BIO)、同步非阻塞IO(NIO)两种实现方式 ### 同步阻塞(BIO) * 服务端采用单线程,当accept一个请求后,在recv或send调用阻塞时,将无法accept其他请求(必须等上一个请求处recv或send完),这种模式下`无法处理并发` * 服务器端采用多线程,当accept一个请求后,开启线程进行recv,可以完成并发处理,但随着请求数增加需要增加系统线程, >`大量的线程占用很大的内存空间,并且线程切换会带来很大的开销,10000个线程真正发生读写事件的线程数不会超过20%,每次accept都开一个线程也是一种资源浪费` ### 同步非阻塞(NIO) * 服务器端当accept一个请求后,加入fds集合,每次轮询一遍fds集合recv(非阻塞)数据,没有数据则立即返回错误, >`每次轮询所有fd(包括没有发生读写事件的fd)会很浪费cpu` ### **IO多路复用(现在的做法)** * 服务器端采用单线程通过select/epoll等系统调用获取fd列表,遍历有事件的fd进行accept/recv/send,使其能`支持更多的并发连接请求` * select/epoll 是同步非阻塞的 ## IO多路复用的几种实现方式 ### **select** #### select的优缺点 select的优点:可以在一个线程上同时监听多个连接请求。 select的几大缺点: * 每次调用select,都需要把fd集合(文件描述符)从用户态拷贝到内核态,这个开销在fd很多时会很大 * 同时每次调用select都需要在内核遍历传递进来的所有fd,这个开销在fd很多时也很大 * select支持的文件描述符数量太小了,默认是1024 ### **poll** poll的实现和select非常相似,只是描述fd集合的方式不同,poll使用pollfd结构而不是select的fd\_set结构,poll支持的文件描述符数量没有限制,其他的都差不多。 poll缺点: * 每次调用poll,都需要把fd集合从用户态拷贝到内核态,这个开销在fd很多时会很大 * 对socket扫描时是线性扫描,采用轮询的方法,效率较低(高并发时) ### **epoll**  epoll是对select和poll的改进,能避免上述的三个缺点,select和poll都只提供了一个函数——select或者poll函数。而epoll提供了三个函数,epoll\_create,epoll\_ctl和epoll\_wait,epoll\_create是创建一个epoll句柄;epoll\_ctl是注册要监听的事件类型;epoll\_wait则是等待事件的产生。 >epoll只能工作在linux下 **epoll LT 与 ET模式的区别** * epoll有EPOLLLT和EPOLLET两种触发模式,LT是默认的模式,ET是“高速”模式。 * 1. 水平触发的主要特点是,如果用户在监听epoll事件,当内核有事件的时候,会拷贝给用户态事件,但是如果用户只处理了一次,那么剩下没有处理的会在下一次epoll_wait再次返回该事件。 * 2. 边缘触发,相对跟水平触发相反,当内核有事件到达, 只会通知用户一次,至于用户处理还是不处理,以后将不会再通知---**直到下次再有数据流入之前都不会再提示了**。这样减少了拷贝过程,增加了性能,但是相对来说,如果用户马虎忘记处理,将会产生事件丢的情况。 ` ` #### 解决select第一个缺点   对于第一个缺点,epoll的解决方案在epoll\_ctl函数中。**每次注册新的事件到epoll句柄中时(在epoll\_ctl中指定EPOLL\_CTL\_ADD),会把所有的fd拷贝进内核,而不是在epoll\_wait的时候重复拷贝。epoll保证了每个fd在整个过程中只会拷贝一次。** ` ` #### 解决select第二个缺点   对于第二个缺点,epoll的解决方案不像select或poll一样每次都把current(当前描述符)轮流加入fd对应的设备等待队列中,而只在epoll\_ctl时把current挂一遍(这一遍必不可少)并为每个fd指定一个回调函数,当设备就绪,唤醒等待队列上的等待者时,就会调用这个回调函数,而这个回调函数会把就绪的fd加入一个就绪链表)。epoll\_wait的工作实际上就是在这个就绪链表中查看有没有就绪的fd(利用schedule\_timeout()实现睡一会,判断一会的效果,和select中的实现是类似的)。 ` ` #### 解决select第三个缺点   对于第三个缺点,epoll没有这个限制,它所支持的FD上限是最大可以打开文件的数目,这个数字一般远大于2048,举个例子,在1GB内存的机器上大约是10万左右,具体数目在linux上可以cat /proc/sys/fs/file-max察看,一般来说这个数目和系统内存关系很大。 ` ` select,poll实现需要自己不断轮询所有fd集合,直到设备就绪,期间可能要睡眠和唤醒多次交替。而epoll其实也需要调用epoll\_wait不断轮询就绪链表,期间也可能多次睡眠和唤醒交替,但是它是设备就绪时,调用回调函数,把就绪fd放入就绪链表中,并唤醒在epoll\_wait中进入睡眠的进程。虽然都要睡眠和交替,但是select和poll在“醒着”的时候要遍历整个fd集合,而epoll在“醒着”的时候只要判断一下就绪链表是否为空就行了,这节省了大量的CPU时间。这就是回调机制带来的性能提升。 ` ` select,poll每次调用都要把fd集合从用户态往内核态拷贝一次,并且要把current往设备等待队列中挂一次,而epoll只要一次拷贝,而且把current往等待队列上挂也只挂一次(在epoll\_wait的开始,注意这里的等待队列并不是设备等待队列,只是一个epoll内部定义的等待队列)。这也能节省不少的开销。 #### 总结epoll         epoll属于IO多路复用,它只是模拟实现了异步IO的功能。  “真正”的异步IO需要操作系统更强的支持。在IO多路复用模型中,事件循环将文件句柄的状态事件通知给用户线程,由用户线程自行读取数据、处理数据。而在异步IO模型中,当用户线程收到通知时,数据已经被内核读取完毕,并放在了用户线程指定的缓冲区内,内核在IO完成后通知用户线程直接使用即可。 ` ` ### epoll和poll触发时的区别   epoll 因为采用 mmap的机制, 使得 内核socket buffer和 用户空间的 buffer共享, 从而省去了 socket data copy, 这也意味着, 当epoll 回调上层的 callback函数来处理 socket 数据时, 数据已经从内核层 "自动" 到了用户空间, 虽然和 用poll 一样, 用户层的代码还必须要调用 read/write, 但这个函数内部实现所触发的深度不同了。 ` `        用poll时, poll通知用户空间的Appliation时, 数据还在内核空间, 所以Appliation调用 read API 时, 内部会做 copy socket data from kenel space to user space。 ` `        而用 epoll 时, epoll 通知用户空间的Appliation时, 数据已经在用户空间, 所以 Appliation调用 read API 时, 只是读取用户空间的 buffer, 没有 kernal space和 user space的switch了。 ### IOCP(异步io----iocp,epoll)           IOCP全称 IO完成端口。它是一种WIN32的网络I/O模型,既包括了网络连接部分,也负责了部分的I/O操作功能,用于方便我们控制有并发性的网络I/O操作。它有如下特点: 1:它是一个WIN32内核对象,所以无法运行于linux。 2:它自己负责维护了工作线程池,同时也负责了I/O通道的内存池。 3:它自己实现了线程的管理以及I/O请求通知,最小化的做到了线程的上下文切换。 4:它自己实现了线程的优化调度,提高了CPU和内存缓冲的使用率。 >**真正意义上的异步IO严格的来说只有IOCP,但是epoll也模拟实现了异步IO的功能。**       ### IOCP和Epoll之间的异同。 异: 1:IOCP是WINDOWS系统下使用。Epoll是Linux系统下使用。 2:IOCP是IO操作完毕之后,通过Get函数获得一个完成的事件通知。 Epoll是当你希望进行一个IO操作时,向Epoll查询是否可读或者可写,若处于可读或可写状态后,Epoll会通过epoll\_wait进行通知。 3:IOCP封装了异步的消息事件的通知机制,同时封装了部分IO操作。但Epoll仅仅封装了一个异步事件的通知机制,并不负责IO读写操作,但是因为mmap机制,epoll其实已经省去了IO操作的第二部分(将数据从内核缓冲区复制到进程缓冲区)。 4: 基于上面的描述,我们可以知道Epoll不负责IO操作,所以它只告诉你当前可读可写了,并且将协议读写缓冲填充,由用户去读写控制,此时我们可以做出额 外的许多操作。IOCP则直接将IO通道里的读写操作都做完了才通知用户,当IO通道里发生了堵塞等状况我们是无法控制的。 同: 1:它们都是异步的事件驱动的网络模型。 2:它们都可以向底层进行指针数据传递,当返回事件时,除可通知事件类型外,还可以通知事件相关数据(通知到来时IO已经完全完成)。 ## 总结 ### select/poll/epoll之间的区别 | | select | poll | epoll | | --- | --- | --- | --- | | 数据结构 | bitmap | 数组 | 红黑树 | |最大连接数 | 1024 | 无上限(最大可以打开文件的数目) | 无上限(最大可以打开文件的数目)| | fd拷贝 | 每次调用select拷贝 | 每次调用poll拷贝 | fd首次调用epoll\_ctl拷贝,每次调用epoll\_wait不拷贝 | | 工作效率 | 轮询:O(n) | 轮询:O(n) | 回调:O(1) | ### **高频面试题** * 什么是IO多路复用? * nginx/redis 所使用的IO模型是什么? * select、poll、epoll之间的区别 * epoll 水平触发(LT)与 边缘触发(ET)的区别?