TensorRT可以在NVIDIA各种GPU硬件平台下运行的模型推理框架,将pytorch等框架训练好的模型转化为TensorRT的格式,利用推理引擎去运行该模型,提升模型运行速度。
资讯同步
文章同步
公众号:deephub-imba
公众号:奕凯的技术栈