并发连接数、请求数(OPS/RPS)、并发用户数

来自linux中国网wiki
Evan讨论 | 贡献2022年4月29日 (五) 05:47的版本 →‎NGINX:查看并发连接数
(差异) ←上一版本 | 最后版本 (差异) | 下一版本→ (差异)
跳到导航 跳到搜索

并发连接数、请求数(OPS/RPS)、并发用户数

概念

并发连接数-SBC(Simultaneous Browser Connections)

并发连接数指的是客户端向服务器发起请求,并建立了TCP连接。每秒钟服务器链接的总TCP数量,就是并发连接数

请求数-QPS(Query Per Second)/RPS(Request Per Second)

请求数有2个缩写,可以叫QPS也可以叫RPS。单位是每秒多少请求。Query=查询,也相当于请求。请求数指的是客户端在建立完连接后,向http服务发出GET/POST/HEAD数据包,服务器返回了请求结果后有两种情况:

http数据包头包含Close字样,关闭本次TCP连接; http数据包头包含Keep-Alive字样,本次连接不关闭,可继续通过该连接继续向http服务发送请求,用于减少TCP并发连接数。


云服务器1M带宽支撑最大并发连接数云服务器1M带宽支持最大连接数与用户的应用有关,云服务器吧以Web网站应用为例,1M带宽下载速度是128KB/S,假设网页优化后的大小为30KB,大概可以支撑4个用户并发在1秒内打开网页(128/30约等于4个),什么?服务器1M带宽才能支撑4个并发数?这种算法有些极端,对于一般流量的网站而言,4个用户在同一秒钟同时打开网页的的概率较小。当然本文说的就是并发,1秒钟支持4个并发,一般来讲,3秒内打开网页的速度都是可以接受的,稍微降低下用户体验,将打开时间延长为3秒,则1M带宽可支撑12个并发。什么?3秒12人?一天86400秒,1M带宽可以正常34万人访问?当然不可能,用户不可能分配的那么均匀,一般都集中在上午9点到11点,下午3点到5点,晚上8点到10点之间。一个网站如果日IP达到30万,那需要多台ECS实例搭配SLB。我们将网站图片、视频等媒体内容存储到更廉价的OSS上,然后将网站接入CDN,我有个网站,使用的是就是1M云服务器带宽,日均2000IP是完全支撑的(网站接入了CDN),通过阿里云控制台的云监控查看,公网流出平均30Kbps,如下图所示:


阿里云服务器1M带宽能承受多少人在线?

服务器性能怎么测

通常情况下,我们测试的是QPS,也就是每秒请求数。不过为了衡量服务器的总体性能,测试时最好一起测试并发连接数和请求数

测试原理

测试并发连接数采用每个并发1请求,多个并发进行; 测试请求数采用多并发、每个并发多个请求进行,总的请求数将会=并发数*单并发请求数,需要注意的是不同的并发和单并发请求数得出来的结果会不同,因此最好测试多次取平均值。


区分请求数意义何在

以Chrome为例,假设服务器设置的是Close(非持久连接),浏览器打开网页后,首先打开4个并发加载数据,在这些请求完成后关闭4个连接,再打开4个并发连接加载数据。也就是说,并不是这个网页有100个请求就会产生100并发,而是4个并发连接并行。假设服务器设置的是keep-alive(持久连接),浏览器打开网页后,首先打开4个并发加载数据,在这些请求完成后不关闭连接,而是继续发出请求,节约重新打开连接的时间。【前面红色标出的是keep-alive持久连接和close非持久的区别,持久连接除了Squid(这货用了特殊方法在http 1.0实现持久连接),只在http 1.1协议中有效!】

主机到底能多少人在线

看到这里相信你已经知道答案了,这个问题无解,根据网页的内容大小和单网页的请求数和服务器的配置而定,这个数据的浮动值非常大所以无法测量。因此能承诺保证多少用户在线就是坑爹的主机商!

并发用户

并发用户数量,有两种常见的错误观点。一种错误观点是把并发用户数量理解为使用系统的全部用户的数量,理由是这些用户可能同时使用系统;还有一种比较接近正确的观点是把用户在线数量理解为并发用户数量。实际上,在线用户不一定会和其他用户发生并发,例如正在浏览网页的用户,对服务器是没有任何影响的。但是,用户在线数量是统计并发用户数量的主要依据之一。 并发主要是针对服务器而言,是否并发的关键是看用户操作是否对服务器产生了影响。因此,并发用户数量的正确理解为:在同一时刻与服务器进行了交互的在线用户数量。这些用户的最大特征是和服务器产生了交互,这种交互既可以是单向的传输数据,也可以是双向的传送数据。 并发用户数量的统计的方法目前还没有准确的公式,因为不同系统会有不同的并发特点。例如OA系统统计并发用户数量的经验公式为:使用系统用户数量*(5%~20%)。对于这个公式是没有必要拘泥于计算的结果,因为为了保证系统的扩展空间,测试时的并发用户数量要稍微大一些,除非是要测试系统能承载的最大并发用户数量。举例说明:如果一个OA系统的期望用户为1000个,只要测试出系统能支持200个并发用户就可以了。


参考 http://www.4wei.cn/archives/1002399

NGINX:查看并发连接数

shell

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a,S[a]}'

Nginx需要开启status模块

https://developer.aliyun.com/article/522960


如何用 Nginx 实现百万并发连接?| 极客时间