0


pytorch性能分析工具Profiler

1. Torch Profiler工具介绍

https://zhuanlan.zhihu.com/p/360479566

PyTorch Profiler 是一个开源工具,可以对大规模深度学习模型进行准确高效的

性能分析

。包括如下等功能:

  • 分析model的GPU、CPU的使用率
  • 各种算子op的时间消耗
  • trace网络在pipeline的CPU和GPU的使用情况
Profiler

利用

Tensorboard

可视化

模型的性能

,帮助发现模型的

瓶颈

,比如CPU占用达到80%,说明影响网络的性能主要是CPU,而不是GPU在模型的推理,各种kernel的运算的消耗。此时通过模型的轻量化、以及剪枝等方式对模型的运行速度并没有帮助,降低CPU的消耗,代码的优化才是关键,从而避免在做一些无用功,帮助我们对项目性能的优化。

在这里插入图片描述

图1 性能的汇总

在这里插入图片描述

图2 op的时间占用情况

2. Profiler工具使用


本文转载自: https://blog.csdn.net/weixin_38346042/article/details/130071989
版权归原作者 @BangBang 所有, 如有侵权,请联系我们删除。

“pytorch性能分析工具Profiler”的评论:

还没有评论