最新消息: 电脑我帮您提供丰富的电脑知识,编程学习,软件下载,win7系统下载。

服务最大的并发量是多少?

IT培训 admin 0浏览 0评论

服务最大的并发量是多少?

综述

Spring Boot 能支持的最大并发量主要看其对内置服务器的设置。由于现在都使用的是springboot服务,配置文件中也没有配置相关参数,基本都是使用默认的线程配置。

springboot内置了tomcat Jetty和Undertow服务器

Spring Boot启动程序通常使用Tomcat作为默认的嵌入式服务器。如果需要更改 - 您可以排除Tomcat依赖项并改为包含Jetty或Undertow:

配置Jetty

org.springframework.boot
spring-boot-starter-web


org.springframework.boot
spring-boot-starter-tomcat




org.springframework.boot
spring-boot-starter-jetty

org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-starter-tomcat org.springframework.boot spring-boot-starter-undertow

以tomcat为例

默认设置中,Tomcat的最大线程数200,最大连接数10000。

并发量指的是连接数,还是线程数?
连接数。

200个线程如何处理10000条连接?
Tomcat有两种处理连接的模式

BIO
一个线程只处理一个Socket连接

NIO
一个线程处理多个Socket连接。由于HTTP请求不会太耗时,而且多个连接一般不会同时来消息,所以一个线程处理多个连接没有太大问题。

为什么不多开几个线程?
多开线程的代价就是,增加上下文切换的时间,浪费CPU时间,另外还有就是线程数增多,每个线程分配到的时间片就变少。
多开线程≠提高处理效率。

为何不增大最大连接数?
增大最大连接数,支持的并发量确实可以上去。但是在没有改变硬件条件的情况下,这种并发量的提升必定以牺牲响应时间为代价。

配置文件为空,这些默认配置哪来的?
Spring Boot的默认配置信息,都在 spring-boot-autoconfigure-版本号.jar 这个包中。

Tomcat配置:org.springframework.boot.autoconfigure.web.ServerProperties.java

最佳线程数目 = ((线程等待时间+线程CPU时间)/线程CPU时间 )* CPU数目。

最佳线程数目 = ((线程等待时间+线程CPU时间)/线程CPU时间 )* CPU数目,

CPU密集型
操作内存处理的业务,一般线程数设置为:CPU核数 + 1 或者 CPU核数*2。核数为4的话,一般设置 5 或 8 。

IO密集型
文件操作,网络操作,数据库操作,一般线程设置为:cpu核数 / (1-0.9),核数为4的话,一般设置 40

maxThreads=“8” //最大并发数
minSpareThreads=“100”///初始化时创建的线程数
maxSpareThreads=“500”///一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程。
acceptCount=“700”// 指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理

maxThreads 客户请求最大线程数
minSpareThreads Tomcat初始化时创建的 socket 线程数
maxSpareThreads Tomcat连接器的最大空闲 socket 线程数
enableLookups 若设为true, 则支持域名解析,可把 ip 地址解析为主机名
redirectPort 在需要基于安全通道的场合,把客户请求转发到基于SSL 的 redirectPort 端口
acceptAccount 监听端口队列最大数,满了之后客户请求会被拒绝(不能小于maxSpareThreads )
connectionTimeout 连接超时
minProcessors 服务器创建时的最小处理线程数
maxProcessors 服务器同时最大处理线程数
URIEncoding URL统一编码

maxThreads:处理的最大并发请求数,默认值200
minSpareThreads:最小线程数始终保持运行,默认值10
maxConnections:在给定时间接受和处理的最大连接数,默认值10000

服务最大的并发量是多少?

综述

Spring Boot 能支持的最大并发量主要看其对内置服务器的设置。由于现在都使用的是springboot服务,配置文件中也没有配置相关参数,基本都是使用默认的线程配置。

springboot内置了tomcat Jetty和Undertow服务器

Spring Boot启动程序通常使用Tomcat作为默认的嵌入式服务器。如果需要更改 - 您可以排除Tomcat依赖项并改为包含Jetty或Undertow:

配置Jetty

org.springframework.boot
spring-boot-starter-web


org.springframework.boot
spring-boot-starter-tomcat




org.springframework.boot
spring-boot-starter-jetty

org.springframework.boot spring-boot-starter-web org.springframework.boot spring-boot-starter-tomcat org.springframework.boot spring-boot-starter-undertow

以tomcat为例

默认设置中,Tomcat的最大线程数200,最大连接数10000。

并发量指的是连接数,还是线程数?
连接数。

200个线程如何处理10000条连接?
Tomcat有两种处理连接的模式

BIO
一个线程只处理一个Socket连接

NIO
一个线程处理多个Socket连接。由于HTTP请求不会太耗时,而且多个连接一般不会同时来消息,所以一个线程处理多个连接没有太大问题。

为什么不多开几个线程?
多开线程的代价就是,增加上下文切换的时间,浪费CPU时间,另外还有就是线程数增多,每个线程分配到的时间片就变少。
多开线程≠提高处理效率。

为何不增大最大连接数?
增大最大连接数,支持的并发量确实可以上去。但是在没有改变硬件条件的情况下,这种并发量的提升必定以牺牲响应时间为代价。

配置文件为空,这些默认配置哪来的?
Spring Boot的默认配置信息,都在 spring-boot-autoconfigure-版本号.jar 这个包中。

Tomcat配置:org.springframework.boot.autoconfigure.web.ServerProperties.java

最佳线程数目 = ((线程等待时间+线程CPU时间)/线程CPU时间 )* CPU数目。

最佳线程数目 = ((线程等待时间+线程CPU时间)/线程CPU时间 )* CPU数目,

CPU密集型
操作内存处理的业务,一般线程数设置为:CPU核数 + 1 或者 CPU核数*2。核数为4的话,一般设置 5 或 8 。

IO密集型
文件操作,网络操作,数据库操作,一般线程设置为:cpu核数 / (1-0.9),核数为4的话,一般设置 40

maxThreads=“8” //最大并发数
minSpareThreads=“100”///初始化时创建的线程数
maxSpareThreads=“500”///一旦创建的线程超过这个值,Tomcat就会关闭不再需要的socket线程。
acceptCount=“700”// 指定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理

maxThreads 客户请求最大线程数
minSpareThreads Tomcat初始化时创建的 socket 线程数
maxSpareThreads Tomcat连接器的最大空闲 socket 线程数
enableLookups 若设为true, 则支持域名解析,可把 ip 地址解析为主机名
redirectPort 在需要基于安全通道的场合,把客户请求转发到基于SSL 的 redirectPort 端口
acceptAccount 监听端口队列最大数,满了之后客户请求会被拒绝(不能小于maxSpareThreads )
connectionTimeout 连接超时
minProcessors 服务器创建时的最小处理线程数
maxProcessors 服务器同时最大处理线程数
URIEncoding URL统一编码

maxThreads:处理的最大并发请求数,默认值200
minSpareThreads:最小线程数始终保持运行,默认值10
maxConnections:在给定时间接受和处理的最大连接数,默认值10000

与本文相关的文章

发布评论

评论列表 (0)

  1. 暂无评论