使用Jmeter进行性能测试及性能监控平台搭建

目录

一、性能测试基本概念

1、为什么要做性能测试？

• 满足用户使用需求：网站访问量大崩溃， 12306 、微博、外卖
• 最小化成本：新服务上线不知道部署多少台服务器
• 评估应用系统性能，给运维做系统容量规划提供依据、给开发提供应用调优参考

2、什么是性能测试？

• 模拟多个用户的操作对服务器硬件性能的影响
• TPS（Transaction Per Second ）每秒事物处理能力
• RT（ Response Time ）响应时间

3、常见性能压力测试工具

• Apache ab： HTTP 服务器性能基准工具。
• Apache Jmeter：支持很多协议，开源免费，使用 Java 语言开发
• LoadRunner ：支持很多协议，收费软件，使用 C 语言开发
• Locust：有 Web 界面，支持很多协议，开源免费，使用 Python 语言开发
• nGrinder : Naver 公司基于 Grinder 开发的性能测试平台。 Grinder 是一个能运行jython （在 JVM 上运行的 Python ）、 groovy 编写测试脚本的应用程序。免费软件，使用 lava 语言开发。 admin ) ‘运行 ngrinder-Controller.war ，默认账户与密码：admin

4、JMeter 优点

• 入门简单，有图形调试界面
• 使用 Java 语言开发，支持多操作系统平台
• 插件机制，可以二次开发定制协议。可以使用三方开发者开发的协议支持

5、JMeter安装

• 下载JDK 下载地址： https://www. oracle.com/java/technologies/ oracle-java-archive-downloads.html
• 添加环境变量 Windows: *JAVA_HOME: C: \Program Files \Java\jdk1.8.0_144 Path: %JAVA_HOME%\bin *macOS/Linux *JAVA_HOME=/usr/local/jdk1.8.0_144 *export PATH=$(JAVA_HOME}/bin: $PATH
• 下载jmeter 下载地址：https://jmeter.apache.org/download_jmeter.cgi

二、压测脚本的录制与编写

一、JMeter配置

• 添加 Recording Controller 路径： Test Plan-> Thread Group->Add-> Logic Controller-> RecordingController

二、浏览器配置

• 在谷歌浏览器使用switchOmega设置Charles监听端口
• 下载地址：https://proxy-switchyomega.com/
• 安装：下载完成以后进入chrome浏览器-点击右上角“…”图标-点击更多根据-扩展程序-把刚刚下载的crx文件拖进来
• 配置：装上后点击浏览器右上角扩展程序图标-选择omega小程序-点击选项进行配置-可以查看到这个页面，127.0.0.1默认是本地的，端口输入8888是因为我们在上图配置的默认端口就是8888
• 这里记得选择HTTP，否则会连不上！！
• 接着，我们点击右上角的proxy工具，选择我们配置的代理，即可使用
• 这个时候去访问网页会出现这个提示，是因为我们jemter代理目前没启动，是正常的，大家不要慌

三、录制与回放

首先我们先来熟悉下jmeter页面的基础配置

1、HTTPS Domains：如果想要抓取http协议，这里可以不用配置，只有抓取https协议才需要配置，支持通配符
2、Target Controller：设置接收请求后要把参数写入的地方，默认是Use Recording Controller，支持选择其他配置
3、配置完后我们可以点击Start按钮进行启动，启动后它会自动的生成一个证书，并放在bin目录下


我们在没有导入证书的时候，访问时候是会报错的，会提示代理服务器出现问题，我们需要导入证书。需要进入刚刚那个文件夹目录，双击crt后缀的证书，进行如下操作

选择受信任的根证书办法机构，点击下一页，点击完成，它会弹出导入成功的弹框，至此证书安装完成！这个时候我们点击start按钮，然后运行代理以后，就可以正常的访问网页，进行抓包啦！

这里是我开启录制以后抓的包，非常多，很多没用的数据，我们可以过滤掉！我这边在url patterns to exclude/include里的过滤功能啦~这里支持正则表达式

拿到我们要的数据以后，我们可以点击点击上方绿色的运行的图标，这个时候它会运行线程组里的请求，为了方便查看，我们可以添加查看结果树（Thread Group-Add-Listener-View Results Tree）

三、虚拟用户并发模拟

我们新建线程组以后，可以对线程组一些参数进行配置：

1、Number Of Threads(users)

• 默认使用几个线程去请求页面
• 默认是1 user

2、Ramp-up Period(seconds)：

• 启动进程以后几秒去把user生成完成
• 默认是1s
• 如果设置的线程数是50，设置需要5s内完成，那每秒就执行10次

3、Loop Count：循环次数

• 默认是1
• 如果勾选Infinite就可以一直跑
• 测试时候我们一般是一直运行这个操作或者是慢慢递增数量）

4、Specify Thread Lifttime：

• 有两个选项
• Duration(seconds)：进程启动几秒后停止
• Startup delay(seconds)：启动进程以后要等待几秒再开始 比如我们这边设置一个线程持续不断的跑10s

尝试用单机操作了一下，当内存不够的时候会报错。因为单机的性能是很有限的，我们可以进行分布式测试。比如一台机器做jmeter控制端，再配置几台负载服务器。在发起几万个请求的时候，就可以均匀分布在这几台机器上做并发，可以给服务器造成更大压力

想要看下服务器有多大内存，我们可以去修改jmeter.sh的配置，这里默认是512，我们可以把它修改为4g然后保存

2，其他线程组

除了之前那个Thread Group线程组，jmeter还提供了另外2个线程组，分别是setUp和tearDown线程组

• setUp线程组： 路径：Test Plan-Add-Threads-setUp Thread Group 执行顺序：在Thread Group线程组执行前执行 作用：比如某些接口需要带上登录获取token才能请求成功，这个时候我们可以把登录接口放在setUp线程组
• tearDown线程组： 路径：Test Plan-Add-Threads-tearDown Thread Group 执行顺序：在Thread Group线程组执行后执行 这里可以看到这两个线程组分别在请求前后执行了

四、压测结果分析

首先我们先来介绍导入功能：
如果我们在服务器上进行压测时，想要查看压测结果，可以把服务器生成的jtl文件导入这里进行展示

然后我们再来介绍3种监听器，分别是Listener View Result Tree，
AggreGate Report和Backend Listener

一、Listener View Result Tree

作用：把请求的返回结果在当前界面进行显示
路径：Thread Group-Add-Listener-View Results Tree
常用功能：

• 正则表达式测试：RegExp Tester
• Css选择器测试：
• XPath测试：XPath Tester（Use Tidy）
• Json Tester：

功能演示：

基于正则：

基于Json path：

二、AggreGate Report

作用：聚合报告，显示请求的响应时间，tps，传输数据大小，百分比等
路径：Thread Group-Add-Listener-AggreGate Report
参数：

• 平均值：平均响应时间，所有请求的平均响应时间（单位是毫秒）
• 中位数：50%的用户响应时间不超过这个值
• 99% Line：99%的用户响应时间不超过这个值
• Error%：异常百分比（错误请求的数量/请求的总数）
• Throughput：吞吐量/tps，默认情况下每秒完成的请求数(单位是秒），吞吐量=1000/平均值*线程数（jmeter显示的吞吐量跟实际有差距的原因是因为jmeter每30s去采样一次）
• Received KB/sec：每秒接收的数据 ps：个别极端结果可能会对实际性能数据造成干扰，%Line更能客观反映实际性能情形

三、Backend Listener

作用：把想要显示的内容写入数据库里，通过图形化展示工具从数据库读取进行图形化展示，使之更为美观

使用命令行进行压测
在实际测试过程中我们很少使用图形化界面，还有查看结果树之类的选项，因为会占用资源，影响测试结果。我们一般把它部署到服务器上。下面我们来介绍如何使用命令行进行压测。

1、测试环境准备：确保服务器上已经安装了jdk和jmeter

• 检查linux系统上是否安装JDK，输入命令：java -version
• 上传 apache-jmeter-5.2.1.tgz 至linux服务器（可以使用sftp工具）
• 使用命令 tar -zxvf apache-jmeter-5.2.1.tgz 解压文件
• 将jmeter添加至配置文件中，使用命令 vim /etc/profile 打开配置文件，添加以下内容至配置文件中（环境变量不是必须配置的，如果不配置环境变量，运行脚本的时候要在bin目录下运行）

#jmeter 环境变量exportJMETER_HOME=/usr/local/jmeter/apache-jmeter-5.3
exportCLASSPATH=$JMETER_HOME/lib/ext/ApacheJMeter_core.jar:$JMETER_HOME/lib/jorphan.jar:$JMETER_HOME/lib/logkit-2.0.jar:$CLASSPATHexportPATH=$JMETER_HOME/bin:$PATH:$HOME/bin

• 按下esc，输入:wq，回到控制台，使用命令 source /etc/profile 使配置文件生效（这里如果保存失败，大概率是权限问题，记得sudo -i）
• chmod +x jmeter 赋予权限
• ./jmeter -v 查看jmeter是否正确安装，如果显示下图就表示安装成功啦~操作步骤：
• 在jmeter新建一个线程组，然后添加一个http请求，接着点击左上角文件-保存测试计划为-xxx.jmx
• 使用xftp等工具把它传到服务器上
• 进入jmeter里的bin目录，输入/jmeter.sh -n -t test.jmx -l result.jtl
  参数含义-n使用命令行运行-t指定测试计划-l指定结果的存放位置
  测试计划是一个xml格式的文件，我们可以打开看下，我们可以在上传服务器后，我们也可以在这里修改文件的配置
  
  压测界面：
  

五、Jmeter进行分布式压测

一，分布式简介：

为什么要使用分布式？

• 单机性能瓶颈：CPU，内存，IO，网络等，测试大型项目恐无法满足需求

二，工作节点（slave）部署

负载机（slaves）：端口 tcp 1099（有防火墙的话尽量要开启该端口）

• jmeter properties配置 关闭SSL：找到在jmeter/bin目录找到jmeter.properties文件，然后编辑，设置server.rmi.ssl.disable=true
• system properties配置 设置hostname：找到在jmeter/bin目录找到system.properties文件，添加一行配置： java.rmi.server.hostname=192.168.31.61（ip地址修改为自己本机的，如果是window系统，可以cmd然后输入ipconfig进行查看，linux可以通过ifconfig查看）
• 运行jmeter-server 运行./jmeter-server

三、控制节点（master）部署

打开另一台服务器，编辑控制端的jmeter

1、控制端（master）：端口 udp 4445

• jmeter properties配置： 找到在jmeter/bin目录找到jmeter.properties文件，然后编辑如下2个字段 1.添加负载机ip：remote_hosts=192.168.31.61,192.168.31.63（支持多个，用逗号隔开） 2.关闭SSL：server.rmi.ssl.disable=true
• 运行jmeter-server 运行./jmeter-server，这个时候打开GUI，在运行这边即可查看到控制机器，我们就可以使用这些进行分布式压测啦~ 当然除了gui，我们也可以使用命令行进行分布式压测：/jmeter.sh -n -t test.jmx -l result.jtl -R 192.168.31.61，多个ip可以用逗号隔开
  参数含义-n使用命令行运行-t指定测试计划-l指定结果的存放位置-R指定负载机ip
  

六、性能监控系统

一、简介

jmeter运行的时候会产生很多数据，我们可以通过jmeter的组件backend listener，实时的把数据写入InfluxDB，然后Grafana工具会从InfluxDB读取数据，然后使用图形界面进行展示，具体架构如下：

二、部署

1、部署InfluxDB

• 官网：https://github.com/influxdata/influxdb
• InfluxDB是一个使用Go语言开发的开源分布式时序数据库，特别适合用于处理和分析资源监控数据，用于存储压测数据
• 这里通过docker的方式进行部署（docker部署方式详见docker从入门到放弃）

1. 新建容器网络：docker network create grafana（不同容器想要互相通信必须在一个网络，所以需要新建容器网络）

2. 运行容器：docker run -d --name=influxdb --network grafana -p 8086:8086 -v ${PWD}/influxdb/:/var/lib/influxdb/ influxdb:1.7.10
   语法含义-d后台运行–name相当于域名，我们可以通过名字找到容器实际的ip地址–network指定具体网络-p指定端口号，jmeter通过这个端口写入数据到influxdb-v把容器的数据库文件挂载在当前目录的influxdb目录

3. 创建数据库 - 第一种方式： curl -i -XPOST http://localhost:8086/query --data-urlencode "q=CREATE DATABASE jmeter"- 第二种方式：docker exec -it influxdb influx，执行语句 create dataase jmeter;

4. 基本语法 - show dataases;- use jmeter;- show measurements;- select * from jmeter limit 3;- exit

2、部署Grafana

• Grafana是一个可视化面板（Dashboard工具），有非常漂亮的图表展示功能，齐全的亮度仪表盘和图形编辑器，可以支持不同种类的数据源，用于将存储与influxdb中的数据以图表形式展示出来
• 运行容器：docker run -d --name grafana --network grafana -p 3001:3000 grafana/grafana:8.8.3
• 访问grafana： 启动成功后，网页输入服务器ip地址+之前设置的端口号，即可实现访问，默认账号密码：admin/admin 忘记密码点这里 功能简介： 侧边栏第一个：主要使用的是dashboard，通过这个监控各种服务，进行数据的展示 浏览（目前暂时无数据）

告警信息（如果是监控主机，设置规则cpu使用率超过80%要告警，一旦超过了这边会有告警提示，目前暂时用不到）

侧边栏的设置图标：这里可以用来配置数据源

侧边栏最后一个：系统管理（暂时用不到）

闲言少叙，我们进行操作

一、导入数据源配置

1、点击倒数第二个图标-Data Sources-Add data source-选择influxDB

参数如下：

• url：写的容器名+端口号
• ip：因为之前创建容器的时候容器名我们指定是influxdb，所以这里我们直接写的influxdb，端口号就填写之前我们映射的 当然这里也可以使用ip地址+端口号：172.18.0.2:8086（比较麻烦，不推荐）
• Auth：认证方面的因为我们没有设置，所以略过
• database：这里我们之前在influxdb创建了jmeter这个表，所以这里填写这个

• Min time interval：提取/刷新时间，jmeter默认写数据到influxdb是5s一次，grafana去读取influxdb是10s一次，这里存在误差，想要精确读取数据，我们这里可以配置5s，这样就不会出现偏差。写完可以点击底下的sava&test按钮测试下二、导入dashboard dashboard支持自定义，但是比较麻烦，推荐使用别的开发者提供的jmeter的展示面板（https://grafana.com/grafana/dashboards/5496） 如果用不了可以看下版本是否符合要求添加控制面板：进入dashboard-manage-import-输入上面的网址-点击load（第一次会提示失败，等几秒就好了）然后会进入下面的页面- name：支持随意更改- DB name：选择刚刚配置的InfluxDB- Measurement name：数据库里的表，相当于mysql的table，支持自定义- Backend send interval：后端发送间隔 保存成功后，在列表页点击名称可以进入详情

三、执行jmeter脚本
现在我们去启动一个jmeter，执行下再来看grafana。这里注意，我们需要把influxdb和grafana都是要放到服务器里面的，然后需要公网ip。如果没有公网ip，可以放在同一个局域网，这样jmeter才能访问。
1、新建一个线程组-添加一个http请求-添加一个监听器-后端监听器实现选择influxdb的，见截图
这里我们需要修改一些配置，其他就默认先不改了

• influxdbUrl：http://10.218.221.24:8086/write?db=jmeter（这里的ip和端口号要替换成服务器的ip地址和之前配置的influxdb的端口号）
• application：这里关系到grafana图表里面application的展示，建议改一下
• measurement：和之前在grafana的dashboard里面填的一致
• summary only：错误是否dashboard的errors面板是否显示详细数据，默认为true（不展示），我们设置为false以后就会展示了

接着，我们点击运行按钮发起请求

这里我们注意下右上角的选项，比如我们选择last 5 mins，那5分钟后，如果没有新请求产生，这边就会显示空的数据

这边可以指定刷新频率，默认是关闭的，我们可以选择刷新频率

错误面板展示

• 添加事务面板 1,新建事务请求 2，查看dashboard里事务面板的展示

在application里面选择刚刚新建的

这里可以看到事务的展示

接着，我们来关注下influxdb


存储具体的测试结果参数

七、性能监控体系实战

本节介绍的是如何使用Prometheus监控被测服务器的相关性能指标

一、Prometheus简介

• Prometheus是一款开源的系统监控和警报工具，使用Go语言开发，有各种exporter用来收集服务器性能数据。
• 我们通过Prometheus来监控压测时的服务器性能

二、部署Prometheus

• 编辑配置文件： 启动前我们需要先去编辑Prometheus配置文件，因为Prometheus要监控服务前，需要先知道服务器的ip地址，启动的node exporter的端口。下面是Prometheus官方的一个配置文件范例：https://github.com/prometheus/prometheus/blob/master/documentation/examples/prometheus.yml

global:
  scrape_interval:     15s # 抓取间隔
  evaluation_interval: 15s # 收集时间间隔，配置报警时候这个值才起作用# scrape_timeout is set to the global default (10s).# Alertmanager configuration
alerting:
  alertmanagers:
  - static_configs:
    - targets:
      # - alertmanager:9093# Load rules once and periodically evaluate them according to the global 'evaluation_interval'.
rule_files:
  # - "first_rules.yml"# - "second_rules.yml"# A scrape configuration containing exactly one endpoint to scrape:# Here it's Prometheus itself.
scrape_configs:
  # The job name is added as a label `job=<job_name>` to any timeseries scraped from this config.
  - job_name: 'prometheus'# metrics_path defaults to '/metrics'# scheme defaults to 'http'.# 指定服务器的ip地址和端口号
    static_configs:
    - targets: ['localhost:9091']

我们先在服务器

vim prometheus.yml

，然后把它上面的脚本黏贴进去，保存

• 运行：docker run -d --name prometheus --network grafana -p 9091:9090 -v ${PWD}/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus:v2.16.0 --config.file=/etc/prometheus/prometheus.yml（-v xxx：把当前编辑的yml文件挂载到容器里的/etc/prometheus/promethues.yml文件里，后面再跟上Prometheus的镜像版本，config.file=/etc/prometheus/prometheus.yml：Prometheus运行时去指定容器里的配置文件） 成功后我们浏览器输入服务器ip:9091端口号（我们自己配置成9091的）实现访问 我们可以在这个路径访问我们刚刚的配置文件，浏览器输入ip+端口号/metrics即可访问数据。根据配置，Prometheus每隔15s就会来访问这里的配置文件，从数据库读取数据，最终显示图形化界面

三，被测机安装node-exporter

Prometheus提供多种exporter来监控不同类型数据，比如jmx_exporter,snmp_exporter,mysqld_exporter…本次我们演示使用node exporter来监控主机的性能数据
下面我们进行安装

1. 下载安装包：https://github.com/prometheus/node_exporter/releases 选择对应版本进行下载
2. 把文件传到服务器，进行解压缩
3. 我们可以输入 ./node_exporter --help查看帮助信息

• 修改默认的监听端口：node_exporter默认是监听9100端口的，如果这个端口已经被占用，我们可以进行修改：./node_exporter --web.listen-address=":9102"。如果服务器下有多个ip，比如内网外网，只想在内网显示出来，前面还可以加上ip地址./node_exporter --web.listen-address="192.234.2.2:9102"，但是这样就会一直在前台运行，运行期间我们做不了其他操作，除非退出。我们可以加上nohub参数让它在后台运行：nohup ./node_exporter --web.listen-address=":9102" &

安装成功以后我们可以输入被测机ip+端口号进行访问。
点进去时候显示的内容和Prometheus里显示的是一样的，都是一些性能参数，Prometheus会定期抓取，然后存入数据库

四，在Prometheus里添加exporter

编辑prometheus.yml配置文件，在末尾添加上刚刚的exporter：

vim prometheus.yml

，保存

  - job_name: 'exporter http://10.218.220.218:9100/'
    static_configs:
    - targets: ['10.218.220.218:9100']

job_name支持自定义，targets里面填写exporter那台机器的ip和配置的端口号

重启docker，使其生效：

docker restart prometheus

我们回到页面，可以看到此时多了1个我们刚刚配的

因为这个界面不太好看，我们这边用grafana进行展示。

• 进入grafana，在数据源那边选择prometheus，其他配置见下图，点击保存 然后我们点击save&test按钮进行保存。 保存成功后，我们去新增node_exporter的dashboard面板，我们这边用的还是别人做好的 我们进入grafana的面板这边，点击import，然后输入https://grafana.com/grafana/dashboards/8919，点击load （ps：8+的grafana才可以直接用网址形式导入，6+的grafana是不支持直接用网址导入的，因为这个的版本太新了，不支持6+的，要用旧版，我们这边用upload .json file，下载地址：https://grafana.com/grafana/dashboards/8919/revisions，选择24的那个） 这边就会有具体内容，我们这边需要选择里面的数据源，然后点击import 就可以看到这个界面，这样我们就可以对被测服务器进行监控啦~