c++ - Linux TCP 服务器问题 C++

Question

一个多月以来，我一直在努力解决这个问题。我别无选择。 我有一台服务器可以收听许多多播 channel (100ish)。每个套接字都是它自己的线程。然后我有一个客户端监听器(单线程)，它处理同一服务器内的所有传入连接、断开连接和客户端消息传递。这个想法是客户端进来，连接，从多播 channel 请求数据，然后我将数据发送回客户端。客户端保持连接，我将 UDP 数据中继回客户端。客户端可以请求 UDP 或 TCP 具有用于数据中继的协议(protocol)。有一段时间，这在几周内都运行良好。我们做了一些代码和内核更改，现在我们无法弄清楚哪里出了问题。

服务器将运行数小时，全天连接数百个客户端。但在某个时候，服务器会随机停止。停止，我的意思是:所有 UDP 套接字停止接收/处理数据(tcpdump 显示数据仍在框内)，client_listener 线程停止接收客户端数据包。但!!!主 client_listener 套接字仍然可以在主套接字上接收新连接和新断开连接。在新连接上，主套接字能够将“连接已建立”数据包发送回客户端，但是当客户端响应时，选择永远不会返回。

如果有人愿意，我可以发布代码。如果有人有任何建议在哪里看，或者这听起来像什么。请告诉我。

如有任何问题，请提出。

谢谢。

---

我想分享我的 TCP 服务器代码: 这是一个单线程。几个小时都可以正常工作，然后我只会收到“新连接”和“断开连接”。不会有客户端数据包进来。

int opt = 1;
  int addrlen;
  int sd;
  int max_sd;
  int valread;
  int activity;
  int new_socket;
  char buffer[MAX_BUFFER_SIZE];
  int client_socket[m_max_clients];
  struct sockaddr_in address;

  fd_set readfds;
  for(int i = 0; i<m_max_clients; i++)
  {
    client_socket[i]=0;
  }

  if((m_master_socket = socket(AF_INET,SOCK_STREAM,0))==0)
    LOG(FATAL)<<"Unable to create master socket";

  if(setsockopt(m_master_socket,SOL_SOCKET,SO_REUSEADDR,(char*)&opt,sizeof(opt))<0)
    LOG(FATAL)<<"Unable to set master socket";

  address.sin_family = AF_INET;
  address.sin_addr.s_addr = INADDR_ANY;
  address.sin_port = htons(m_listenPort);

  if(bind(m_master_socket,(struct sockaddr*)& address, sizeof(address))!=0)
    LOG(FATAL)<<"Unable to bind master socket";

  if(listen(m_master_socket,SOMAXCONN)!=0)
    LOG(FATAL)<<"listen() failed with err";

  addrlen = sizeof(address);
  LOG(INFO)<<"Waiting for connections......";

while(true)
  {
    FD_ZERO(&readfds);

    FD_SET(m_master_socket, &readfds);
    max_sd = m_master_socket;

    for(int i = 0; i<m_max_clients; i++)
    {
      sd = client_socket[i];

      if(sd > 0)
        FD_SET(sd, &readfds);

      if(sd>max_sd)
        max_sd = sd;
    }

    activity = select(max_sd+1,&readfds,NULL,NULL,NULL);

    if((activity<0)&&(errno!=EINTR))
    {
    //  int err = errno;
  //    LOG(ERROR)<<"SELECT ERROR:"<<activity<<" "<<err;
      continue;
    }

    if(FD_ISSET(m_master_socket, &readfds))
    {
      if((new_socket = accept(m_master_socket,(struct sockaddr*)&address, (socklen_t*)&addrlen))<0)
        LOG(FATAL)<<"ERROR:ACCEPT FAILED!";

      LOG(INFO)<<"New Connection, socket fd is (" << new_socket << ") client_addr:" << inet_ntoa(address.sin_addr) << " Port:" << ntohs(address.sin_port);
      for(int i =0;i<m_max_clients;i++)
      {
        if(client_socket[i]==0)
        {
          //try to set the socket to non blocking, tcp nagle and keep alive
          if ( !SetSocketBlockingEnabled(new_socket, false) )
            LOG(INFO)<<"UNABLE TO SET NON-BLOCK: ("<<new_socket<<")" ;
          if ( !SetSocketNoDelay(new_socket,false) )
            LOG(INFO)<<"UNABLE TO SET DELAY: ("<<new_socket<<")" ;
//           if ( !SetSocketKeepAlive(new_socket,true) )
//            LOG(INFO)<<"UNABLE TO SET KeepAlive: ("<<new_socket<<")" ;

          ClientConnection* con = new ClientConnection(m_mocSrv, m_udpPortGenerator, inet_ntoa(address.sin_addr), ntohs(address.sin_port), new_socket);
          if(con->login())
          {
            client_socket[i] = new_socket;
            m_clientConnectionSocketMap[new_socket] = con;
            LOG(INFO)<<"Client Connection Logon Complete";
          }
          else
            delete con;
          break;
        }
      }//for
    }
    else
    {
      try{
        for(int i = 0; i<m_max_clients; i++)
        {
          sd = client_socket[i];
          if(FD_ISSET(sd,&readfds))
          {
            if ( (valread = recv(sd, buffer, sizeof(buffer),MSG_DONTWAIT|MSG_NOSIGNAL)) <= 0 )
            {
             //remove from the fd listening set
              LOG(INFO)<<"RESET CLIENT_SOCKET:("<<sd<<")";
              client_socket[i]=0;
              handleDisconnect(sd,true);
           }
           else
           {
             std::map<int, ClientConnection*>::iterator client_connection_socket_iter = m_clientConnectionSocketMap.find(sd);
             if(client_connection_socket_iter != m_clientConnectionSocketMap.end())
             {
               client_connection_socket_iter->second->handle_message(buffer, valread);
               if(client_connection_socket_iter->second->m_logoff)
               {
                  LOG(INFO)<<"SOCKET LOGGED OFF:"<<sd;
                  client_socket[i]=0;
                  handleDisconnect(sd,true);
               }
             }
             else
             {
                LOG(ERROR)<<"UNABLE TO FIND SOCKET DESCRIPTOR:"<<sd;
             }
           }
          }
        }
      }catch(...)
      {
        LOG(ERROR)<<"EXCEPTION CATCH!!!";
      }
    }
  }

Answer 1

根据所提供的信息，我将声明以下内容:

• 不要为每个连接使用一个线程。由于您使用的是 Linux，因此请使用 EPOLL Edge Triggered Multiplexing。大多数较新的 Web 框架都使用这种技术。有关更多信息，请查看 10K Problem . 通过从等式中消除线程，您可以消除死锁的可能性并降低调试的复杂性/担心线程安全变量。
• 确保每个连接在完成后完全关闭。
• 确保升级后 iptables 中没有弹出一些新的防火墙规则。
• 检查网络上的所有防火墙，看它们是否限制某些类型的事件(升级后您的服务器是否使用新 IP？)

简而言之，我会把钱花在线程死锁和/或饥饿上。我亲自进行了实验，其中我使用 Epoll 创建了多线程服务器与单线程服务器。结果日日夜夜，Epoll 摒弃了多线程实现(对于 I/O)并使代码更易于编写、调试和维护。