什么叫服务器并发数

‘壹’ jmeter并发数和线程数的区别

一、指代不同

1、并发数：指同时访问服务器站点的连接数。

2、线程数：是程序中一个单一的顺序控制流程，在单个程序中同时运行多个线程完成不同的工作,称为多线程猜虚知。

二、原理不同

1、并发数：建立在每台服务器多用户的基础上的，也就是多个用户共同使用一台服务器。为了避免同一台服务器上的某一个用户的IIS链接人数过多或占用服务器资源过多而影响其它用户的正常使用。

2、线程数：服务端传送数据到用户端，把用户端和服务端比做两个小岛，线程数比做连接两个小岛之间的桥梁，架桥越多，单位时间内传送的数据越多，但如果桥梁架设超过双方所能承受的数量时，用户端穗消将无法接受其他服务端的数据。

三、特点不同

1、并发数：服务器对于某一个链接的默认超时时间一般誉帆为15--20分钟，也就是当访问用户访问你的网页并关闭后，一般需要15--20分钟，服务器才从其内存中将其清除，视为无效链接

2、线程数：用户可以根据不同的服务端限制，来修改下载软件的原始下载线程数。根据下载资源的热门程度，其候选资源数量的不同，该任务下载可用的线程数也会不同。

‘贰’ jmeter并发数和线程数的区别

一、指代不同

1、并发数：指同时访问服务器站点的连接数。

2、线程数：是程序中一个单一的顺序控制猜虚知流程，在单个程序中同时运行多个线程完成不同的工作,称为多线程。

二、原理不同

1、并发数：建立在每台服务器多用户的基础上的，也就是多个用户共同使用一台服务器。为穗消了避免同一台服务器上的某一个用户的IIS链接人数过多或占用服务器资源过多而影响其它用户的正常使用。

2、线程数：服务端传送数据到用户端，把用户端和服务端比做两个小岛，线程数比做连接两个小岛之间的桥梁，架桥越多，单位时间内传送的数据越多，但如果桥梁架设超过双方所能承受的数量时，用户端将无法接受其他服务誉帆端的数据。

三、特点不同

1、并发数：服务器对于某一个链接的默认超时时间一般为15--20分钟，也就是当访问用户访问你的网页并关闭后，一般需要15--20分钟，服务器才从其内存中将其清除，视为无效链接

2、线程数：用户可以根据不同的服务端限制，来修改下载软件的原始下载线程数。根据下载资源的热门程度，其候选资源数量的不同，该任务下载可用的线程数也会不同。

‘叁’ 并发连接数

并发连接数指的是客户端向服务器发起请求，并建立了TCP连接。每秒钟服务器链接的总TCP数量，就是并发连接数。

最大并发数连接是防火墙或代理服务器对其他业务信息流的处理能力，是防火墙能够同时处理点对点连接的最大数目，是防火墙设备对多个连接的访问控制能力和连接状态跟踪能力，这个参数的大小直接影响到防火墙所有支持的最大信息点数，代表防火墙性能的一个重要指标。从常见的防火墙设备的使用说明可以看出，从低端设备的500或1000个桐信并发连接到高端设备的数万或百万个并发连接，有几个数量级的差异。

并发主要是针对服务器而言，是否并发的关键是看用户操作是否对服务器产生了影响。因此，并发用户数量可以理解为：在同一时刻与服务器进行了交互的在线用户数量。这些用户的最大特征是和服务器产生了交互，这种交互既可以是单向的传输数据，也可以是双向的传送数据。比如并发局亩轮连接数为10，就表示最多有十个连接同时连接到服务器，如果一个网站只有一个请求的话，就是最多10个人同时去打开这个网耐旦站，如果有11个人同时打开这个网站，第11个请求就会等待，直到前面的连接被断开。

‘肆’ 关于性能测试中“并发”的解释

当我们在谈论“并发”时

动辄要求系统支持成百上千并发的性能需求太多了，也许系统在实际中确实存在这样的需求，但能够较全面理解此需求的情况并不多。

对于并发，我过去接触了几种理解，在接触的第一种理解中，“并发”是由loadrunner中获取，即脚本中所有或部分vuser执行至集合点函数时进行停留，等待触发条件发生以后，同时执行集合点函数后的请求操作的这一个过程，为“并发”（这一个请求操作一般存在多销闭个http请求），可惜这种“并发”是无法直接用于衡量系统性能的。而在接触的第二种理解中，“并发”的理解是相对于服务器某一个时间区间内接收的请求数，也就是每秒的点击率（loadrunner考虑到这点，也就是analysis里面的hits/s），为“并发”，这种“并发”是可以用于对系统性能状况进行量化的，但是这种测试思想只是比较片面的从性能指标的角度去衡量系统性能，不能体现出系统性能带给用户何种性能体验（这也是不少开源性能测试工具的问题）。

前一种“并发”的理解普遍获得了loadrunner初级用户的认可，后一种“并发”的理解普遍获得系统运维、开发人员的认可，在沟通中为了方便区别开来，在两种角色里面，当大家意识到并发的理解存在差异时，大家把前一种被称为“狭义上的并发”，而后一种被称为“广义上的并发”。后来，又从淘宝团队里面了解了一种定义，貌似淘宝QA把“并发”定义为一个完整的事务请求数量过程（loadrunner也考虑到这点，也就是analysis里面的Transactions per Second）。一直以来，还有一种技术范围以外对“并发”的粗略的理解被第三方测试拿来用了，那就是用户在线数中的某个百分比即并发数。

如果一个团队里面对“并发”的理解有这么多种，那么当我们在讨论性能需求的“支持并发数”时，我们究竟在讨论什么呢？

个人认为，有一部分的原因是由于loadrunner是惠普saas（软件即服务的解决方案）的一部分，所以并不是一个纯粹技术人员使用的测试工具，它同时也是一个业务人员可以相对轻易掌握的性能测试工具，因此loadrunner内很多名词解释也不能单纯从技卜斗告术人员的角度从字面意义上理解。

通常来说，面对同样100笔业务交易量，普遍会认为100vuser对服务器产生的负载会比50vuser要高，但是在性能脚本能够在较快的响应时间中完成时，由于50vuser执行过程中每一个vuser都需要发生两次迭代，导致了性能场景中vuser在脚本action部分停留的时间更长，因此反而能够得到比100vuser的更高的vuser在线数，更高在线数带来的也就是更大的负载，也就是说：

同等业务量的情况下，50 线程所产生的负载完全有可能比100 线程所产生的负载要高。

为了避免发生这种问题，“并发（集合点）”的真正作用就体现出来了，通过集合点函数控制了vuser的行为相对一致，降低了初始化过程和事务前后型明文请求产生的时间差影响。测试工具中并发存在的真正意义也就在这里，对集合点所理解的“并发”，和现场实际用户里面同时触发的请求关系不是太大。

分析“并发”需求时的一些典型：

a) 某个业务系统里面有10000用户，但是能够访问这个系统的终端数只有1000个、或者所需测试的业务每个月上限是1000笔，那么最高在线用户数就不可能超过1000、业务量也不可能超过1000。所以，有些时候在分析性能需求的时候，去统计一个业务系统的用户数还不如去统计能够访问这个系统的终端数、甚至业务量靠谱。

b) 某个业务系统里面，各个业务模块都不一样，那么就是说完成一笔业务交易，所产生的请求数也是不一样的，例如表单新增，有的需要填写20个字段，有的只需要填写5个字段，各个表单都不一样，那么为了更接近的去模拟用户现场负载，请求数都不一样的各种业务混在一起，并发数又应该是多少呢？

为了解决这些问题，需要首先考虑“并发”的粒度，以真实的业务场景为例：

a) 把粒度控制在用户上来看，假定所有用户访问一次系统平均耗时500秒，一个业务峰值会有800用户在线，则800/500=1.6。理论上，系统的性能需求是每秒要成功处理1.6个用户的请求；

b) 把粒度控制在事务上来看，假定所有用户执行一次完整的、成功的业务操作平均需要500秒，一个业务峰值有2000笔所关注的业务需要去执行，则2000/500=4。理论上，系统的性能需求是每秒要成功处理4笔业务交易；

c) 把粒度控制在请求上来看，假定所有用户执行一次完整的、不管成功或者失败的HTTP请求操作平均需要0.08秒，一个业务峰值有28000个请求需要去完成，则28000/0.08=350000。理论上，系统的性能需求是每秒要成功处理350000个请求。

实际一点的案例看看

在下面的图表中，横轴表示了某业务系统中上午9：00至12：00的一个区间，假定期间只有A、B、C访问了该业务系统。如果用户的访问过程中发送一个请求，则在请求发生的时间中标识一个点，由图可见：

A用户的行为：早上9：00访问了业务系统，并发生了一连串的请求（多个点已经连成一条直线），再然后没有再连续的发生请求（没有再出现黑线），而是有规律的间歇请求，我们暂且猜想用户A这个时候在浏览系统中的业务数据，这确实也符合浏览行为，空白阶段可以理解为在线的浏览，并不会对服务器产生负载；

B用户的行为：早上9：00访问了业务系统，并在临近12：00访问了业务系统，发送了一连串的请求，我们猜想该用户在执行了一些业务操作，浏览所占的比例比较低；

C用户的行为：仅仅在10：30左右访问了业务系统，执行了一连串业务操作以后没有再访问系统。

那么在这里案例里面，我们已知：3用户在线。问题：并发用户最高该是多少？答案其实显而易见，并发只有2个用户，因为用户C执行的业务操作的同时只有A也在执行业务操作，B完全是不在线。

还会有人认为100用户在线就应该上100个vuser/线程么？

‘伍’ iis并发连接数和同时在线人数的概念是什么，区别是什么

并发数是iis,在某一个时间点，可以有多少个连接数，这个iis服务器配置，程序的性能有一定关系。连接数一般是个线程数。

同时在线人数比较虚。就是一个网站，可以让多少人在一个时间段内（注意是时间段，时间跨度比时间点要长）同时访问网站。

比方一个论坛，你可以登录了，10分钟不访问，也算你在线。但是这个时候你是不占用并发连接数的。

比方一个服务器支持并发连接1000，平均每个用户占用10个连接数字。那么同一时刻只能有100个用户访问这个网站。如果有多余100个的人，那么就要排队等待。

并发连接数和同时在线人数，要看你是做什么应用，如果是看看新闻，一篇文章你点开了，要看半天，那么你看的过程里是不占用并发数的。但如果是游戏，下载或者视频什么的，因为你基本实时与服务器通信，那么服务器可支持的同时在线人数不会太多。

‘陆’ 网站服务器的并发是什么意思

并发，就是同时的链接

你可以理解为，同一秒钟，同时链接网络的客户端数量
当然准确的意义上是毫秒或者更低，
重在一个同时的概念

‘柒’ 性能-什么是并发用户数

我们假设上图中的这些小人是严格按照这个逻辑到达系统的，那显然，系统的绝对并发用户数是 4。如果描述 1 秒内的并发用户数，那就是 16。是不是显而易见？

但是，在实际的系统中，用户通常是这样分配的：

也就是说，这些用户会分布在系统中不同的服务、网络等对象中。这时候”绝对并发“这个概念就难描述了，你说的是哪部分的绝对并发呢？

要说积分服务，那是 2；要说库存服务，那是 5；要说订单服务，它自己是 5 个请求正在处理，但同时它又 hold 住了 5 个到库存服务的链接，因为要等着它返回之后，再返回给前端。所以将绝对并发细分下去之后，你会发现头都大了，不知道要描述什么了。

有人说，我们可以通过 CPU 啊，I/O 啊，或者内存来描述绝对并发，来看 CPU 在同一时刻处理的任务数。如果是这样的话，绝对并发还用算吗？那肯定是 CPU 的个数呀。有人说 CPU 1ns 就可以处理好多个任务了，这里的 1ns 也是时间段呀。要说绝对的某个时刻，任务数肯定不会大于 CPU 物理个数。

所以“绝对并发”这个概念，不管是用来描述硬件细化的层面，还是用来描述业务逻辑的层面，都是没什么意义的。

我们只要描述并发就好了，不用有“相对”和“绝对”的概念，这样可以简化沟通，也不会出错。

那么如何来描述上面的并发用户数呢？在这里我建议用 TPS 来承载“并发”这个概念。

并发数是 16TPS，就是 1 秒内整个系统处理了 16 个事务。

这样描述就够了，别纠结。

那么新问题又来了，在线用户数和并发用户数应该如何算呢？下面我们接着来看示意图：

如上图所示，总共有 32 个用户进入了系统，但是绿色的用户并没有任何动作，那么显然，在线用户数是 32 个，并发用户数是 16 个，这时的并发度就是 50%。

但在一个系统中，通常都是下面这个样子的。

为了能 hold 住更多的用户，我们通常都会把一些数据放到 Redis 这样的缓存服务器中。所以在线用户数怎么算呢，如果仅从上面这种简单的图来看的话，其实就是缓存服务器能有多大，能 hold 住多少用户需要的数据。

最多再加上在超时路上的用户数。如下所示：

所以我们要是想知道在线的最大的用户数是多少，对于一个设计逻辑清晰的系统来说，不用测试就可以知道，直接拿缓存的内存来算就可以了。

假设一个用户进入系统之后，需要用 10k 内存余槐来维护一个用户的信息，那么 10G 的内存就能 hold 住 1,048,576 个用户的数据，这就是最大在线用户数了。在实际的项目中，我们还会将超时租毁正放在一起来考虑。

但并发用户数不同，他们需要在系统中执行某个动作。我们要测试的重中之重，就是统计这些正在执行动作的并发用户数。

当我们统计生产环境中的在线用户数时，并发用户数也是要同时统计的。这里会涉及到弊悔一个概念：并发度。

要想计算并发用户和在线用户数之间的关系，都需要有并发度。

做性能的人都知道，我们有时会接到一个需求，那就是一定要测试出来 系统最大在线用户数是多少。 这个需求怎么做呢？

很多人都是通过加思考时间（有的压力工具中叫等待时间，Sleep 时间）来保持用户与系统之间的 session 不断，但实际上的并发度非常非常低。

我曾经看到一个小伙，在一台 4C8G 的笔记本上用 LoadRunner 跑了 1 万个用户，里面的 error 疯狂上涨，当然正常的事务也有。我问他，你这个场景有什么意义，这么多错？他说，老板要一个最大在线用户数。我说你这些都错了呀。他说，没事，我要的是 Running User 能达到最大就行，给老板交差。我只能默默地离开了。

这里有一个比较严重的理解误区，那就是压力工具中的线程或用户数到底是不是用来描述性能表现的？我们通过一个示意图来说明：

通过这个图，我们可以看到一个简单的计算逻辑：

而我们通常说的“并发”这个词，依赖 TPS 来承载的时候，指的都是 Server 端的处理能力，并不是压力工具上的并发线程数。在上面的例子中，我们说的并发就是指服务器上 100TPS 的处理能力，而不是指 5 个压力机的并发线程数。请你切记这一点，以免沟通障碍。

所以，我一直在强调一点，这是一个基础的知识：不要在意你用的是什么压力工具，只要在意你服务端的处理能力就可以了。

上面说了这么多，我们现在来看一个实例。这个例子很简单，就是：
JMeter（1 个线程） - Nginx - Tomcat - MySQL
通过上面的逻辑，我们先来看看 JMeter 的处理情况：

我们可以看到，JMeter 的平均响应时间基本都在 5ms，因为只有一个压力机线程，所以它的 TPS 应该接近 1000ms/5ms=200TPS。从测试结果上来看，也确实是接近的。有人说为什么会少一点？因为这里算的是平均数，并且这个数据是 30s 刷新一次，用 30 秒的时间内完成的事务数除以 30s 得到的，但是如果事务还没有完成，就不会计算在内了；同时，如果在这段时间内有一两个时间长的事务，也会拉低 TPS。

那么对于服务端呢，我们来看看服务端线程的工作情况。

可以看到在服务端，我开了 5 个线程，但是服务端并没有一直干活，只有一个在干活的，其他的都处于空闲状态。
这是一种很合理的状态。但是你需要注意的是，这种合理的状态并不一定是对的性能状态。

下面我们换一下场景，在压力机上启动 10 个线程。结果如下：

平均响应时间在 25ms，我们来计算一处，(1000ms/25ms)*10=400TPS，而最新刷出来的一条是 396.2，是不是非常合理？

同样是 5 个线程，现在就忙了很多。

如果要有公式的话，这个计算公式将非常简单：

对于压力工具来说，只要不报错，我们就关心 TPS 和响应时间就可以了，因为 TPS 反应出来的是和服务器对应的处理能力，至少压力线程数是多少，并不关键。我想这时会有人能想起来 JMeter 的 BIO 和 AIO 之争吧。

你也许会说，这个我理解了，服务端有多少个线程，就可以支持多少个压力机上的并发线程。但是这取决于 TPS 有多少，如果服务端处理的快，那压力机的并发线程就可以更多一些。

这个逻辑看似很合理，但是通常服务端都是有业务逻辑的，既然有业务逻辑，显然不会比压力机快。

应该说，服务端需要更多的线程来处理压力机线程发过来的请求。所以我们用几台压力机就可以压几十台服务端的性能了。

如果在一个微服务的系统中，因为每个服务都只做一件事情，拆分得很细，我们要注意整个系统的容量水位，而不是看某一个服务的能力，这就是拉平整个系统的容量。

我曾经看一个人做压力的时候，压力工具中要使用 4000 个线程，结果给服务端的 Tomcat 上也配置了 4000 个线程，结果 Tomcat 一启动，稍微有点访问，CS 就特别高，结果导致请求没处理多少，自己倒浪费了不少 CPU。

通过示意图和示例，我描述了在线用户数、并发用户数、TPS（这里我们假设了一个用户只对应一个事务）、响应时间之间的关系。有几点需要强调：

‘捌’ 宽带并发数为2是什么意思

两个连接。或宏并发数是指同时衫键册访问服务器站点的链接数，反应了系统的负载能力。宽带并发数为2就是有两个连接服务器站亮茄点。

‘玖’ mysql并发数是什么意思

可能影响，并可能影响。这就是所谓的“一个老鼠屎坏升段了一锅汤。”许多DBA都遇到类似的问题，即一台服务器上，在服务器上的所有应用程序的应用程序编程问题，导致多个应用程序的数据都受到牵连。但是，根据你的描述，如果唯一的A1死锁，液顷然后A2是不是一个问题。但是，如果的A1表扫描或复杂的计算，导致太多的资闹笑陆源，这将影响到A2的压力。

数据库的并发性通常指的是整个服务器的并发性，无论数据库服务器的几个库

‘拾’ 什么是服务器并发量并发量如何计算

并发的意思是指网站在同一时间访问的人数，人数越大，瞬间带宽要求更高。服务器并发量分为：1.业务并发用户数；2.最大并发访问数；3.系统用户数；4.同时在线用户数；
说明服务器实际压力，能承受的最大并发访问数，既取决于业务并发用户数，还取决于用户的业务场景，这些可以通过对服务器日志的分析得到。

一般只需要分析出典型业务（用户常用，最关注的业务操作）

给出一个估算业务并发用户数的公式（测试人员一般只关心业务并发用户数）

C=nL/T

C^=C+3×(C的平方根)

C是平均的业务并发用户数、n是login session的数量、L是login session的平均长度、T是指考察的时间段长度、C^是指业务并发用户数的峰值。

假设OA系统有1000用户，每天400个用户发访问，每个登录到退出平均时间2小时，在1天时间内用户只在8小时内使用该系统。

C=400×2/8=100

C^=100+3×(100的平方根)=100+3×10=130

另外，如果知道平均每个用户发出的请求数u，则系统吞吐量可以估算为u×C

精确估算，还要考虑用户业务操作存在一定的时间集中性（比如上班后1小时内是OA系统高峰期），采用公式计算仍然会存在偏差。

285-104-1346