1.poll使用的基本流程
-
epoll的LT电平触发模式与poll模型(就是电平触发模式)的用法是完全一模一样的。要记住!
-
(P3)poll:poll函数原型中的例子03\echosrv_poll.cpp是玩具代码,why?
(1)如果应用层发过来的数据包,刚好分包了,即:一个数据包,两次read(粘包问题),第一次read时并不是一个完整的客户端请求,该怎么办呢?
对于每一个connfd分配一个应用层缓冲区,我们应该将读到的数据保存在connfd的应用层接收缓冲区,将每次读到的数据追加到应用层缓冲区的末尾。
如何解析协议?让解析协议去应用层缓冲区去读取数据,判断它是否为一条完整的消息,然后对消息进行处理。
(2)假设应答的数据量比较大,假如10000字节,write的时候实际上只发送了1000字节,因为内核发送缓冲区有可能满了,该缓冲区满了,write系统调用不会阻塞,因为connfd是非阻塞的fd(connfd = accept4(listenfd, (struct sockaddr*)&peeraddr, &peerlen, SOCK_NONBLOCK | SOCK_CLOEXEC);),如果设置成阻塞模式,会把线程阻塞住了,其他的fd产生了事件就没办法处理了,会降低并发服务器效率,所以要用非阻塞的fd!!! -
当发送缓冲区满了,write不能把所有的数据都发送出去,我们也应该有一个应用层的发送缓冲区。
-
什么时候产生可写事件,即POLLOUT事件?
POLLOUT事件的触发条件:connfd内核中的发送缓冲区不满时(可以容纳事件了),就把应用层的缓冲区拷贝到内核中的缓冲区当中。
不能一接收到connfd事件的时候就关注POLLOUT事件,如果一开始就关注,刚开始的时候,发送缓冲区不是满的,但是又没有发送数据,它会一直触发POLLOUT事件,则会出现忙等待busy-loop。所以,应该在内核缓冲区已经满了,才关注它的POLLOUT事件,随着内核缓冲区的数据发送出去,被对等方接收走,发送缓冲区的数据就会被移除,就会腾出空间接受更多的数据,此时POLLOUT事件就发生了,再poll一遍检测到事件,在处理已连接套接字事件的时候,遍历已连接套接字集,就有可能遍历到connfd POLLOUT事件的到来,此时取出应用层缓冲区的数据进行发送,如果这次还没发送完,那么POLLOUT事件就不能取消关注 -
此外,还要考虑应用层的接收缓冲区InputBuf
2.EMFILE处理
-
accept(2)返回EMFILE(太多的文件fd,一个新的client过来了,但是fd用完了,就会返回EMFILE,由于accept没有成功,所以listenfd一直处于活跃状态,相当于处于高电平的状态,由于调用while,若没跳出,下次还会调用poll,仍然返回EMFILE,一直处于busy-loop状态)的处理的解决的方法:
(1)调高进程文件描述符数目,但是系统资源有限,不好
(2)死等,等待服务端关闭socket,就能腾出一个fd,不好
(3)退出程序,不好不能满足7*24h服务,不好
(4)关闭监听套接字。那什么时候重新打开呢?
(5)如果是epoll模型,可以改用edge trigger。问题是如果漏掉了一次accept(2),程序再也不会收到新连接。
(6)准备一个空闲的文件描述符。遇到这种情况,先关闭这个空闲文件,获得一个文件描述符名额;再accept(2)拿到socket连接的文件描述符;随后立刻close(2),这样就优雅地断开了与客户端的连接;最后重新打开空闲文件,把“坑”填上,以备再次出现这种情况时使用。 -
eg:2.EMFILE处理中(6)处理方式
04\echosrv_poll.cpp
#include <unistd.h>
#include <sys/types.h>
#include <fcntl.h>
#include <sys/socket.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <signal.h>
#include <sys/wait.h>
#include <poll.h>
#include <stdlib.h>
#include <stdio.h>
#include <errno.h>
#include <string.h>
#include <vector>
#include <iostream>
#define ERR_EXIT(m) \
do \
{ \
perror(m); \
exit(EXIT_FAILURE); \
} while(0)
typedef std::vector<struct pollfd> PollFdList;
int main(void)
{
signal(SIGPIPE, SIG_IGN);
signal(SIGCHLD, SIG_IGN);
//预备一个空闲的fd
int idlefd = open("/dev/null", O_RDONLY | O_CLOEXEC);
int listenfd;
//if ((listenfd = socket(PF_INET, SOCK_STREAM, IPPROTO_TCP)) < 0)
if ((listenfd = socket(PF_INET, SOCK_STREAM | SOCK_NONBLOCK | SOCK_CLOEXEC, IPPROTO_TCP)) < 0)
ERR_EXIT("socket");
struct sockaddr_in servaddr;
memset(&servaddr, 0, sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_port = htons(5188);
servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
int on = 1;
if (setsockopt(listenfd, SOL_SOCKET, SO_REUSEADDR, &on, sizeof(on)) < 0)
ERR_EXIT("setsockopt");
if (bind(listenfd, (struct sockaddr*)&servaddr, sizeof(servaddr)) < 0)
ERR_EXIT("bind");
if (listen(listenfd, SOMAXCONN) < 0)
ERR_EXIT("listen");
struct pollfd pfd;
pfd.fd = listenfd;
pfd.events = POLLIN;
PollFdList pollfds;
pollfds.push_back(pfd);
int nready;
struct sockaddr_in peeraddr;
socklen_t peerlen;
int connfd;
while (1)
{
nready = poll(&*pollfds.begin(), pollfds.size(), -1);
if (nready == -1)
{
if (errno == EINTR)
continue;
ERR_EXIT("poll");
}
if (nready == 0) // nothing happended
continue;
if (pollfds[0].revents & POLLIN)
{
peerlen = sizeof(peeraddr);
connfd = accept4(listenfd, (struct sockaddr*)&peeraddr,
&peerlen, SOCK_NONBLOCK | SOCK_CLOEXEC);
/* if (connfd == -1)
ERR_EXIT("accept4");
*/
//connfd如果用完了
if (connfd == -1)
{
//EMFILE是暂时性的错误,所以这样处理,其他错误,直接关闭掉即可(若是高可用,也不会关闭,也会继续continue)
if (errno == EMFILE)//说明fd不够用了
{
close(idlefd);//腾出一个fd
idlefd = accept(listenfd, NULL, NULL);//accept一个fd后,fd又用光了
close(idlefd);//防止下次出现EMFILE的错误,再次close idlefd,再次open
//这样就优雅的断开了与客户端的连接
idlefd = open("/dev/null", O_RDONLY | O_CLOEXEC);
continue;
}
else
ERR_EXIT("accept4");
}
pfd.fd = connfd;
pfd.events = POLLIN;
pfd.revents = 0;
pollfds.push_back(pfd);
--nready;
// 连接成功
std::cout<<"ip="<<inet_ntoa(peeraddr.sin_addr)<<
" port="<<ntohs(peeraddr.sin_port)<<std::endl;
if (nready == 0)
continue;
}
//std::cout<<pollfds.size()<<std::endl;
//std::cout<<nready<<std::endl;
for (PollFdList::iterator it=pollfds.begin()+1;
it != pollfds.end() && nready >0; ++it)
{
if (it->revents & POLLIN)
{
--nready;
connfd = it->fd;
char buf[1024] = {0};
int ret = read(connfd, buf, 1024);
if (ret == -1)
ERR_EXIT("read");
if (ret == 0)
{
std::cout<<"client close"<<std::endl;
it = pollfds.erase(it);
--it;
close(connfd);
continue;
}
std::cout<<buf;
write(connfd, buf, strlen(buf));
}
}
}
return 0;
}
04\echocli.cpp
#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <netinet/in.h>
#include <arpa/inet.h>
#include <stdlib.h>
#include <stdio.h>
#include <errno.h>
#include <string.h>
#include <iostream>
#define ERR_EXIT(m) \
do \
{ \
perror(m); \
exit(EXIT_FAILURE); \
} while(0)
int main(void)
{
int sock;
if ((sock = socket(PF_INET, SOCK_STREAM, IPPROTO_TCP)) < 0)
ERR_EXIT("socket");
struct sockaddr_in servaddr;
memset(&servaddr, 0, sizeof(servaddr));
servaddr.sin_family = AF_INET;
servaddr.sin_port = htons(5188);
servaddr.sin_addr.s_addr = inet_addr("127.0.0.1");
if (connect(sock, (struct sockaddr*)&servaddr, sizeof(servaddr)) < 0)
ERR_EXIT("connect");
struct sockaddr_in localaddr;
socklen_t addrlen = sizeof(localaddr);
if (getsockname(sock, (struct sockaddr*)&localaddr, &addrlen) < 0)
ERR_EXIT("getsockname");
std::cout<<"ip="<<inet_ntoa(localaddr.sin_addr)<<
" port="<<ntohs(localaddr.sin_port)<<std::endl;
char sendbuf[1024] = {0};
char recvbuf[1024] ={0};
while (fgets(sendbuf, sizeof(sendbuf), stdin) != NULL)
{
write(sock, sendbuf, strlen(sendbuf));
read(sock, recvbuf, sizeof(recvbuf));
fputs(recvbuf, stdout);
memset(sendbuf, 0, sizeof(sendbuf));
memset(recvbuf, 0, sizeof(recvbuf));
}
close(sock);
return 0;
}
2.cmake
-
cmake命令,ubuntu安装:sudo apt-get install cmake
-
若没有build.sh,则cmake的执行过程如下:
会产生一个标准的Makefile文件,然后执行make就可以编译了
由于cmake会产生很多的临时文件,所以新建一个build目录,
由于cmake在哪个目录,产生的临时文件就在哪个目录,此时产生的临时文件都在build文件夹下了。
输入:cmake …
再输入make,还可以输入make clean(删除bin底下的内容)
产生的可执行文件的位置:
- 若没有build.sh,最终的结果位置如下:
./build.sh的执行位置:
生成的build文件夹的位置:
- eg:04\CMakeLists.txt
cmake_minimum_required(VERSION 2.6)
project(pas CXX)
set(CXX_FLAGS -g -Wall)
set(CMAKE_CXX_COMPILER "g++")
string(REPLACE ";" " " CMAKE_CXX_FLAGS "${CXX_FLAGS}")
##生成的可执行文件的路径在bin目录下
set(EXECUTABLE_OUTPUT_PATH ${PROJECT_BINARY_DIR}/bin)
##一个文件生成可执行程序,多个文件生成可执行程序,都可以配置进来
add_executable(echosrv_poll echosrv_poll.cpp)
add_executable(echocli echocli.cpp)
04\build.sh
#!/bin/sh
# 执行的所有命令都会跟踪
set -x
SOURCE_DIR=`pwd`
##如果BUILD_DIR目录不为空,则取BUILD_DIR的值;如果为空,则取build的值
BUILD_DIR=${BUILD_DIR:-../build}
mkdir -p $BUILD_DIR \
&& cd $BUILD_DIR \
&& cmake $SOURCE_DIR \
&& make $*
##$*用于传参,如果是./build clean,则会先调用cmake,然后调用make clean