1. Torch Profiler工具介绍
https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler 是一个开源工具，可以对大规模深度学习模型进行准确高效的
性能分析
。包括如下等功能:
- 分析model的GPU、CPU的使用率
- 各种算子op的时间消耗
- trace网络在pipeline的CPU和GPU的使用情况
Profiler
利用
Tensorboard
可视化
模型的性能
，帮助发现模型的
瓶颈
，比如CPU占用达到80%，说明影响网络的性能主要是CPU，而不是GPU在模型的推理，各种kernel的运算的消耗。此时通过模型的轻量化、以及剪枝等方式对模型的运行速度并没有帮助，降低CPU的消耗，代码的优化才是关键，从而避免在做一些无用功，帮助我们对项目性能的优化。
图1 性能的汇总
图2 op的时间占用情况
2. Profiler工具使用
本文转载自: https://blog.csdn.net/weixin_38346042/article/details/130071989
版权归原作者 @BangBang 所有， 如有侵权，请联系我们删除。
版权归原作者 @BangBang 所有， 如有侵权，请联系我们删除。