http://www.web008.net

由select引发的思考

一、前言

  网络编程里一个经典的问题,select,poll和epoll的区别?这个问题刚学习编程时就接触了,当时看了材料很不明白,许多概念和思想没有体会,现在在这个阶段,再重新回头看这个问题,有一种豁然开朗的感觉,

把目前我所能理解到的记录下来。

  参考资料:

       

       

       

       

       

二、从操作系统开始谈起

  有几个以后一直谈到的概念,有必要先了解,以前就是这个步骤没做,学习的时候一脸懵逼。

 

  1. 用户空间和内核空间

    目前操作系统寻址模式为虚拟寻址,即处理器产生虚拟地址,之后翻译成物理地址,总线到物理地址处理,处理器拿到处理后的数据

    操作系统 的核心为内核,可以访问受保护的内存空间,可以访问底层硬件设施,可以做任何事情。所以为了系统的稳定,讲道理内核应该被保护起来。

    所以虚拟空间被分为内核空间和用户空间。内核空间在最高的1G中,用户空间在剩下的内存中。

    多数我们所用的进程在用户空间处理,把请求发给内核,在内核空间中操作硬件。

  

  2. 进程上下文切换(进程切换)

    挂起当前进程,恢复某个进程,大家都知道这是个开销大的过程,那具体有哪些步骤呢?

    首先,保存当前进程一些必要信息用以日后恢复,如描绘地址空间的页表,进程表,文件表等等。

    然后切换页全局目录,安装一个新的地址空间

    最后回复目标进程的上下文

 

  3. 文件描述符(fd)

    计算机的一个术语,指向文件对象的一个抽象表示。形式上是一个非负整数的索引值,指向文件表中的文件

    当程序打开或创建一个文件时,内核向进程返回一个文件描述符,代表该文件。

    通过操作文件描述符,我们实现真实操作文件的目的

 

  4.  进程阻塞(process block)

    当某个进程等待一个执行结果时,自身阻塞(不干事),直到得到结果,再继续往下,

    重点是:这个是进程自身行为,且阻塞时不占用cpu资源(cpu也不干事),

    所以I/O请求最拉低性能,俗话说占着茅坑不拉屎,在计算机里也是存在的,所以人们设计了多线程,多进程等方案来解决这个问题。

  

  5.  I/O过程

    一般有两种模式,直接 I/O,缓存 I/O(默认),

    缓存 I/O:

      进程发起系统调用(通知系统我要读写了!)

      写: 进程(数据) -------》 进程缓冲池   ------------》 内核缓冲池 ----------》存储设备

      读: 存储设备(数据)---------》内核缓冲池 ----------》进程缓冲池 ---------》进程

 

    直接 I/O(进程缓存池消失了!):      

      进程发起系统调用(通知系统我要读写了!)

      写: 进程(数据)    ------------》 内核缓冲池 ----------》存储设备

      读: 存储设备(数据)---------》内核缓冲池  ---------》进程

    以上每个步骤之间都是有可能进程会有阻塞(block)发生,根据不同位置的阻塞,就产生了多种网络模式,以适应于不同场景。

 

     

三、 I/O模式(以读为例)

   1.  block I/O 

    过程 :  

      进程发起系统调用(通知系统我要读写了!)

      读: 存储设备(数据)---------》内核缓冲池  ---------》进程------------》内核通知进程ok,进程解除阻塞

                 进程阻塞                   进程阻塞

    解释:

      进程一直等文件准备好,再继续下一步。

    应用场景:

      以上原理是一个用户连接的情况,很容易理解。

      当一个服务器对接多个客户端的时候:

      初级方案:开多进程(大数据或长时间任务、开销大,更安全)或多线程(很多连接,开销低,数据放一起不太安全)为每一个客户端建立一个连接来处理。

      不足:高并发的情况就体现出开销大,性能低。一个是多线程切换,上下文切换的性能开销,另一个是多线程数量大,会占据大量系统资源

 

      优化方案:采用线程池(减少创建和销毁线程的频率)或连接池(维持连接的缓存池,尽量重用已有的连接),降低系统开销

      不足:降低开销还是有限度的,在这个时代,高并发大,很容易到达瓶颈。

   

   2. non-block I/O   

    过程 :  

      发起系统调用(通知系统我要读写了!)

      读: 存储设备(数据)-------------》内核缓冲池  -----------》进程-------------》内核通知进程ok,进程解除阻塞

                 非阻塞                              阻塞

    解释:

      在内核准备数据阶段,立即返回一个error给进程,

      因此进程知道内核还没准备好,

      所以进程再问内核,内核再回error,直到内核准备好,被询问时返回准备好的信号,进程再接触阻塞,

    应用场景:

      连接量小,没差别,

      当连接数大的时候,这个模式理论上可以用一个线程实现多个连接:

      由于非阻塞,这个线程可以循环去询问所有连接目标有没有准备好,内核都是立马回复,error往下,准备好就交给进程,所以不会浪费时间,

      但是,(凡事都有但是),这个简单的实现方案,效率还是很低的,毕竟从内核空间到用户空间还是block的,而且会极大推高cpu占用率。

      特别是当响应事件(读取或者其他)庞大的时候,执行速度就会很缓慢。

      下面的select等就是基于此想法的发展。

 

   3. I/O multiplexing

    目标:低开销,高效率得处理高并发请求

    方案:select 、poll、epoll 三种实现方案

    本质:用 select、poll、epoll 去监听所有 socket对象,当socket对象发生变化时,通知用户进程处理。

    特征:

       select(最早出现):多平台支持

                通过轮询,效率较低

                处理连接数量有限制,默认1024个,

                大量用户态和内核态fd的拷贝,性能低,

                返回的是所有句柄列表,没有告诉是哪一个发生变化,用户进程还得再次遍历。

       poll(略微改进):改进了数量连接限制,做到了数量无限制

       epoll(改进所有缺点):当socket变化时,通知进程哪一个完成了,

                  数量无限制(为系统最大打开文件数量)

                  fd句柄只拷贝一次,性能高

    性能对比:

      图片 1

      横坐标是连接数,Dead Connections 是软件命名的,纵坐标是此时处理连接数

      可以看出 epoll 性能比较稳定,而且性能较优。

    仔细过程讨论:

        这里只讨论大致原理,具体实现不同语言有不同的差别。(不是因为我没做过,不是的)

        首先。在多路复用模型中,对于每一个 socket,一般都设置成为 non-blocking,但是,整个用户的 process 其实是一直被 block 的

        即用户进程被select、poll阻塞,但是select、poll是非阻塞的,他们不断轮询、挂起来完成工作。

 

        select:

          1. 从用户态拷贝 fd_set 至内核空间(告诉内核要监听的socket)

          2..注册回调函数pollwait(将进程挂到等待队列中,当socket准备好后(执行mask状态码判断),再唤醒进程)

          3. 内核遍历fd,调用每一个的poll方法(本质上是pollwait回调函数,返回值socket的mask状态掩码,即现在准备好了没,给fd_set赋值)

          4. 当无可读写mask码(没有任何准备好的),select睡眠,等睡眠时间到,再次醒来轮询fd-set

          5. 有值时返回fd_set(已经赋值完,例如可以读的value为1)、将其拷贝至用户空间

          6. 用户进程循环fd_set,

        分析:

          每次循环都要执行上面流程,

          一次循环两次拷贝fi_set,即每次监听都重新告诉内核要监听的事件,在用户量很大的时候是一个很大的开销

          返回所有的fd_set,却没有告诉进程哪一个是完成的,进程还得循环判断,用户量很大(十万,百万)的时候,性能太低

          因此,select只支持1024个连接。

          这也解释了上图中为什么连接量越大,性能越低的现象,许多时间用来处理无活跃的连接、循环判断中,在高并发低活跃的场景中尤为如此。

        poll:

          将fd_set结构改为pollfd结构,可以不限数量,但是其他问题咩有解决。

        epoll:

          改进:

            fd只拷贝一次(开始就告诉内核所有注册事件,监听对象)。

            只返回包含所有变化的fd的链表。

            连接无限制

          epoll提供三个函数

          epoll_create(句柄),开始是有size参数,说明fd数量,现在内核动态分配,

          epoll_ctl(注册事件类型),注册监听事件

          epoll_wait(等待事件发生),捕捉fd信号,

    三者区别小结:

      select、poll 孪生兄弟,有许多缺点,优点不多,应用场景也不多。是时代的产物

      epoll  是进阶版,但是只有Linux有,

      具体情况具体分析。

  

  4. 异步io

    解释:进程完全不阻塞,请求发完就去做其他事,等数据全部准备好,内核发消息给进程,进程接着处理,

    实现:听说很复杂,没研究。

 

四、总结和挖坑

  研究了一些操作系统的概念,研究了I/O模式,着重研究了select、poll、epoll 的区别,

  有时间 具体实现和操作,实践出真知,许多细节可能还有谬误,待以后水平上升,再来修改。

          

          

          

       

 

郑重声明:本文版权归美高梅163888所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。