C10K问题_c10lck[通俗易懂]

大家好，欢迎来到IT知识分享网。

何为C10K问题？                                                     

       c是指client，而10k则是一万的意思。c10k就是单机同时并发一万个请求。同理c100k则是同时并发十万个请求，如今百万请求也十分常见了。

单机能否做到？

       每个线程占用一定的内存，Linux默认一个线程8M，Windows默认一个线程1M。如果按传统阻塞式IO模式进行处理，一个线程处理一个连接，具体能处理多大的并发量就要看服务器的硬件设备。但是如果使用并发框架，或者go的协程，很容易做到万及以上的并发。 而他们的核心思想就是IO多路复用。

IO多路复用

       为什么要多路复用？cpu的处理是非常快的，所以大部分时间都在IO。阻塞式IO会让CPU大部分时间浪费在等待上，即使多个线程管理多个fd，也会有相当一部分cpu资源浪费。线程越多，内存占用越大，并且CPU的上下文切换也会越频繁，CPU空转，资源得不到有效利用。利用多路复用大大增加了CPU的利用率，同时减少了内存和其他资源的开销。

       怎么多路复用？就是利用一个线程去管理多个fd（file describe）。将多个fd加入函数中，每次调用的时候，传入要检查的fd，如果有就绪的fd就返回，启动线程去按顺序执行。这样就能做到一个线程管理多个fd，我们常见的多路复用模型有select，poll和epoll。

什么是文件描述符？

        文件描述符的英文为File Describe，这里简写为fd。它是用户与内核，设备驱动及硬件设备之间沟通的纽带。在Linux里面一切皆是文件，文件描述符是内核保存的文件描述符表的一个索引。内核在open函数调用后，创建一个文件描述符，并与底层对象相关联，他们可能是一个硬件设备，可能是文件系统，或者某些完整对象。为了与硬件设备通信，于是有了设备驱动，设备驱动向内核提高API，以供内核在响应各种请求时调用。例如read和write函数，他们在响应文件描述符上类似操作时被调用。即用户态与底层设备进行对话的句柄。我们打开一个文件，建立一个socket连接，键盘输入，都会产生一个文件和文件标识符。文件标识符指向内核为每个进程打开文件，是内核高效管理被打开文件创建的索引。

       下图为设备文件的原理图：

       文件又可分为普通文件，目录文件，链接文件和设备文件。系统为每个进程维护了一张文件描述符表，该表是从0开始。所以不同进程文件描述符可能指向同一个文件，也可能指向不同的文件。相同的文件可以被不同的进程打开，也可以被同一个进程重复打开。

select和poll

        都使用非阻塞式的 I/O 。需要从文件描述符列表中找出可执行的 I/O ，然后进行I/O读写。由于是非阻塞的，一个线程可以同时监控一批文件描述符。select与poll有一个很大的一个区别，poll利用了pollfd结构体，并且在内核态中维护了一个链表，改进了select因为bitmap位数组对fd数量受限和bitmap被置位后不可重用的问题。但是select和poll依然最大的缺点是每次调用都要传入所有监听的fd集合，内核再需要对所有的fd进行轮询。当并发量特别大的时候，内核态和用户态之间的数据拷贝与内核对fd的轮询十分浪费系统资源。

epoll

        epoll是select和poll的增强版本，如今Redis，Nginx等就是基于epoll实现的。它能显著提高大量并发中只有少量活跃的情况下CPU的利用率。主要原因是它无需遍历整个被监听的fd集合，只需要遍历那些被内核IO唤醒后就绪的fd集合，效率比select和poll高了许多。要在内核中长久维护一个数据结构来存储fd，并且有查找，插入和删除的操作发生，这对内核的效率产生不小的影响，因此epoll的底层采用红黑树的数据结构来存储fd。这块存储被用户态和内核态共享，少了拷贝的过程。当监听到数据，会对fd进行重排，内核只需要对前面几个有数据的fd进行处理。

go协程

        协程是一个轻量级的线程。GO有M-P-G并发模型，M表示一个核心线程，P代表一个处理器管理M需要的上下文，G代表协程。G必须绑定在P上，P必须绑定在M上。协程的切换其实是比较复杂的，但是主要思想是利用一个核心线程处理多个协程。一个协程只需几KB，对系统的开销是非常小的。我们可以利用go很轻松的达到十万以上的并发量。

       以上只讲到了部分关于C10K问题的相关解决办法。对于不同系统与编程语言可能有改进方案，但是多路复用的思想应该差不多。