Spring Boot中内置Tomcat最大连接数、线程数与等待数实践调优

本文介绍: 在 Spr in g Bo o t 框架中，我们使用最多的是To m cat，这是 Spr in g Bo o t 默认的容器技术，而且是内嵌式的 Tomcat。Tomcat 是 Apac he 基金下的一个轻量级的Se r v let 容器，支持 Se r v let 和 JSP。Tomcat 服务器本身具有We b 服务器的功能，可以作为独立的We b 服务器来使用。

在 Spr in g Bo o t 框架中，我们使用最多的是Tomcat，这是 Spr ing Boot 默认的容器技术，而且是内嵌式的 Tomcat。Tomca t 是 Apac he 基金下的一个轻量级的Serv let 容器，支持 Serv let 和 JSP 。Tomca t 服务器本身具有Web 服务器的功能，可以作为独立的Web 服务器来使用。

Spr ing Boot 能支持的最大并发量主要看其对Tomca t的设置，可以在配置文件中对其进行更改。要了解具体参数的默认值，一个简单的方法是在application.properties 配置文件中输入配置项，默认值就会显示出来。

默认配置：
最大工作线程数，默认200。
server.tomcat.max-threads=200
 
最大连接数默认是10000
server.tomcat.max-connections=10000
 
等待队列长度，默认100。
server.tomcat.accept-count=100
 
最小工作空闲线程数，默认10。
server.tomcat.min-spare-threads=10

对应 application.yml 配置文件如下所示：

server:
  port: 9000
  tomcat:
    uri-encoding: UTF-8
    max-threads: 800 #最大工作线程数量
    min-spare-threads: 20 #最小工作线程数量
    #max-connections: 10000 #一瞬间最大支持的并发的连接数
    accept-count: 200 #等待队列长度

线程数的经验值为：1核2G内存，线程数经验值200；4核8G内存，线程数经验值800。
（4核8G内存单进程调度线程数800-1000，超过这个并发数之后，将会花费巨大的时间在CPU调度上）

等待队列长度：队列做缓冲池用，但也不能无限长，消耗内存，出入队列也耗CPU。

ma xTh read s规定的是最大的线程数目，并不是实际running的CPU数量；实际上，ma xTh read s的大小比CPU核心数量要大得多。这是因为，处理请求的线程真正用于计算的时间可能很少，大多数时间可能在阻塞，如等待数据库返回数据、等待硬盘读写数据等。因此，在某一时刻，只有少数的线程真正的在使用物理CPU，大多数线程都在等待；因此线程数远大于物理核心数才是合理的。也就是说，Tomcat通过使用比CPU核心数量多得多的线程数，可以使CPU忙碌起来，大大提高CPU的利用率。