Java TCP服务器到许多连接

Question

我编写了一个简单的TCP服务器，将一些用户数据转换为该服务器，并将其保存在一个简单的MySQL表中。 如果我彼此之间现在运行超过2000个客户端，它将停止工作。 运行时，我遇到一些IO error java.io.EOFException您可能还会看到我为此而犯的IO error java.io.EOFException 。 但最重要的是我明白了

 IO error java.net.SocketException: Connection reset
    Exception in thread "main" java.lang.OutOfMemoryError: unable to create new native thread
    at java.lang.Thread.start0(Native Method)
    at java.lang.Thread.start(Unknown Source)
    at Server.main(Server.java:49)

应该有足够的内存，但是线程仍在运行，我看不到我犯错的地方，因为它们没有被终止。 因此，我最多可以运行3900个线程。 因此，这是服务器的一部分：

try {
    // create new socket
    ServerSocket sock = new ServerSocket(port);
    textArea.setText(textArea.getText() + "Server started\n");
    while (true) {
        // accept the connection
            Socket newsock = sock.accept();
        // handle the action
        Thread t = new ThreadHandler(newsock);
            newsock.setSoTimeout(2000); // adding client timeout
        t.start();
        }
    } catch (Exception e) {

猜测真的很简单。 这是我处理套接字的方法：

class ThreadHandler extends Thread {
    private Socket socket;
    private MySQLConnection sqlConnection;

    ThreadHandler(Socket s) {
        socket = s;
        sqlConnection = new MySQLConnection();
    }

    public void run() {
        try {
            DataOutputStream out = new DataOutputStream(
                    socket.getOutputStream());
            DataInputStream in = new DataInputStream(new BufferedInputStream(
                    socket.getInputStream()));
            Server.textArea.append((new Date()) + "\nClient connected IP: " + socket.getInetAddress().toString()+"\n");

            int firstLine = in.readInt(); // get first line for switch

            switch (firstLine) {
            case 0:
                // getting the whole objekt for the database in own lines!
                String name2 = in.readUTF();
                int level2 = in.readInt();
                int kp2 = in.readInt();
                String skill = in.readUTF();

                LeadboardElement element2 = new LeadboardElement();
                element2.setName(name2);
                element2.setLevel(level2);
                element2.setKillPoints(kp2);
                element2.setSkill(skill);
                sqlConnection.saveChaToLeadboard(element2);
                break;
                //case 1 return the top10
###.... shorten here the rest of the cases
                out.close();
            in.close();
            //close this socket
            socket.close();
                    Server.textArea.append("Client disconnected IP: " + socket.getInetAddress().toString()+ "\n" + (new Date())
                            + "\n----------------------------------------------------\n");
            // autoscrolldown
            Server.textArea.setCaretPosition(Server.textArea.getDocument()
                    .getLength());
         } catch (Exception e) {
            System.out.println("IO error " + e);
            try {
                socket.close();
            } catch (IOException e1) {
                e1.printStackTrace();
            }
        }finally{
        try {
            socket.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

在saveChaToLeadboard只是获取名KP水平和技能，并使用preparedStatement那么它保存到我的MySQL表。 希望您能帮我，我只是看不到它的错误。 我想我需要在某个地方加入它，但是如果我在它的末尾（在socket.close（）之后）加入一个加入，它仍然会做同样的事情。

这里保存到数据库方法：

public void saveChaToLeadboard(LeadboardElement element) {
        try {
            // load driver
            Class.forName("com.mysql.jdbc.Driver");
            connection = DriverManager.getConnection(this.databaseURL
                    + DATABASE_NAME, this.user, this.password);
            // insert values into the prep statement
            preparedStatement = connection
                    .prepareStatement(PREP_INSERT_STATEMENT);
            preparedStatement.setString(1, element.getName());
            preparedStatement.setInt(2, element.getLevel());
            preparedStatement.setInt(3, element.getKillPoints());
            if(!element.getSkill().equalsIgnoreCase("")){
                preparedStatement.setString(4, element.getSkill());
            }else{
                preparedStatement.setString(4, null);
            }
            // execute
            preparedStatement.executeUpdate();
            connection.close();

        } catch (Exception e) {
            Server.textArea.append(e.getMessage() + "\n");
            Server.textArea.setCaretPosition(Server.textArea.getDocument()
                    .getLength());
            try {
                connection.close();
            } catch (SQLException e1) {
                e1.printStackTrace();
            }
        }

非常感谢！ 问候

Answer 1

您的run()方法已损坏，但我怀疑问题的部分原因在于您并不总是关闭网络套接字和流。 特别是，如果在读取或处理读取的数据时出现异常，我怀疑您没有关闭它们。 您应该始终在finally块（或等效的Java 7）中关闭套接字和流。

另一个潜在的问题是某些连接可能由于另一端未发送数据而停止。 为了解决这个问题，您需要在套接字上设置一个读取超时...，以便可以关闭与慢速/阻塞客户端的连接。

最后，甚至尝试与每个连接的线程并行处理2000+个连接可能是不现实的。 那是很多资源¹ 。 我建议您使用固定上限为低数的线程池，如果所有线程都在使用中，则停止接受新连接。

---

^{1-每个线程堆栈在HotSpot JVM上至少占用64K内存，并且可能多达1Mb。 然后是线程直接或间接引用的Heap资源，以及维护线程和套接字状态所需的OS资源。 对于2000个线程，这可能是多个Gb的内存。}

Answer 2

对于单个进程，IMHO 2000线程处于较高的位置，而对于2000个数据库连接，则绝对是如此。

无论您是否达到2000个传入连接的限制，您的方法都无法扩展。

为了实现可伸缩性，您需要考虑使用资源池-这意味着：

• 从套接字读取数据的读取器线程池，以排队处理数据。
• 一个工作线程池，用于处理读取器线程排队的数据。
• 一个工作线程使用的数据库连接池-可以调整此连接池，以便每个工作线程都有自己的连接，但是重要的是您不能持续打开和关闭数据库连接。

查看线程池的并发API和IO的NIO API 。

这种安排将允许您调整服务器以实现所需的吞吐量。