(四)Windows网络模型之完成端口模型详解
Windos网络模型之完成端口模型
完成端口模型是重叠IO模型的升级优化版,解决了重叠IO模型的不足,是Windos下效率最好的网络模型。
重叠IO模型有什么不足?
- 对于事件通知需要程序员进行循环询问,当并发量较高时,延迟增高,并且做了许多无用功;每次调用WSASend()、WSARecv()等函数投递给OS处理,其实都是在另开一根线程,这将不可变避免导致线程量增多,不好管理且效率下降。
- 对于完成例程此时程序员只需等待服务器socket的事件即可;仍会存在大量的线程,相比事件通知模型还多出了执行回调函数(完成例程中的例程)所需要创建的线程,在并发量很大时,线程数目会急剧增加,导致效率下降。
这就引申出了一个新问题为什么线程数增加的时候,效率会降低呢?
- 并不是线程数越多,CPU的利用效率就会越高
- 因为线程切换时需要保存当前线程上下文、恢复目标线程上下文。如果线程过多,会让CPU忙于切换和调度,浪费过多的时间在线程切换上,由此降低了效率。程序的线程数目不能太多,理论上和CPU核心数目差不多或稍微多一点即可。
说句拓展有时会说线程数增加时,会提高程序的执行速度?为啥?
- 这是因为当增加当前程序的线程数时,会获得更多的CPU时间片,其挤压了其他程序或进程的CPU时间片。虽然当前程序执行速度可能会得到一定的提升,却牺牲了其他程序的执行效率且增加了CPU调度和线程切换的资源用量,本质上还是降低了计算机整体的执行效率,是一种"自私"的做法!
完成端口模型是如何解决线程过多问题的?
完成端口模型 是基于重叠IO模型的改进,该模型依然使用了重叠结构Overlapped、AeptEx()、WSARecv()、WSASend()等异步函数。还使用了完成端口变量—需由CreateIoCompletionPort()创建。
该模型模仿消息队列,由OS维护一个通知队列,当上述的异步函数完成后就会产生通知,OS将通知放进通知队列中;程序员根据计算机的性能合理创建一定数目的线程,读取通知队列的头部通知,并进行分类处理。
完成端口模型的使用逻辑
-
开启网络库
-
创建服务器socket
-
绑定本地IP与port
-
创建完成端口,只需要一个完成端口,需要将每一个socket(服务器socket和客户端通信socket)都绑定到同一个完成端口上。
// 功能1创建完成端口 HANDLE CreateIoCompletionPort( [in] HANDLE FileHandle, // 填写INVALID_HANDLE_VALUE [in, optional] HANDLE ExistingCompletionPort, // 填写NULL [in] ULONG_PTR CompletionKey, // 忽略,填0即可 [in] DWORD NumberOfConcurrentThreads// 最重要的参数并发线程数目,填0表示默认 ); // 如 HANDLE hPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, 0, 0, 0); // 功能2绑定socket到完成端口上 HANDLE CreateIoCompletionPort( [in] HANDLE FileHandle, // 需要绑定的socket的句柄 [in, optional] HANDLE ExistingCompletionPort, // 完成端口的句柄 [in] ULONG_PTR CompletionKey, // 传进去一个参数,它会在GetQueuedCompletionStatus()时传出,可以借助该参数标记以及识别socket [in] DWORD NumberOfConcurrentThreads// 忽略,填0即可 ); // 如 HANDLE hRes = CreateIoCompletionPort((HANDLE)sockListen, hPort, sockListen, 0);
-
绑定服务器socket与完成端口
-
启动服务器监听
-
然后创建合理数目的线程,在每个线程中使用GetQueuedCompletionStatus()函数,获取通知队列中的通知,然后根据传出参数进行分类,并处理。保证线程循环执行,不断读取通知队列中的通知并处理。
BOOL GetQueuedCompletionStatus( [in] HANDLE CompletionPort, // 完成端口句柄,只有与完成端口绑定的socket上发生的事件才可以被监测到 LPDWORD lpNumberOfBytesTransferred,// 接收或发送的字节数 [out] PULONG_PTR lpCompletionKey, // 传出了在绑定socket与完成端口时,传入的一个参数3,可以用于标记socket [out] LPOVERLAPPED lpOverlapped, // 传出了与socket绑定在一起的重叠结构,注意重叠结构是在调用异步函数时传入的 [in] DWORD dMilliseconds // 超时时间 ); // 返回值 true 执行成功 false 执行失败
-
对于线程处理函数,主要工作就是循环调用GetQueuedCompletionStatus()处理通知队列的通知
- 对于建立连接的请求要及时对新的客户端socket绑定重叠结构以及完成端口,然后投递。
- 对于收发数据的请求,要及时处理数据,并继续投递数据收发任务
如何回答讲讲你理解的完成端口模型?
完成端口模型是重叠IO模型的升级版,它解决了重叠IO模型中线程过多导致效率下降的问题。
在完成端口模型中,我们新创建一个完成端口变量,并将所有的socket(包括服务器socket和客户端通信socket)都绑定到完成端口上。然后使用AeptEx()、WSARecv()、WSASend()函数异步投递相应的任务,等任务完成后操作系统将完成通知放进通知队列中。
之后程序员创建合理数目的线程,在线程函数中取出通知队列的头部,然后分析并分类处理。
该模型所有函数执行部分都是异步的,而且不存在线程滥用问题,效率非常高!
完成端口模型的流程图