TensorRT推理时间不稳定的解决方案

目录

解决方案

第一步

第二步

效果

解除锁频方法

解决方案

锁定GPU时钟频率（实测有效）

第一步

使用 nvidia-smi -q -d SUPPORTED_CLOCKS 查询GPU支持的最高频率，如下图所示为 8001 MHz

第二步

cmd（管理员权限）

设置锁定频率 nvidia-smi -lgc 8001 设置成功后的结果如下图所示： 

效果

锁定后：

锁定前：

解除锁频方法

nvidia-smi --reset-gpu-clocks

天天代码码天天
微信公众号
.NET 人工智能实践
注：本文转载自blog.csdn.net的天天代码码天天的文章"https://lw112190.blog.csdn.net/article/details/140733883"。版权归原作者所有，此博客不拥有其著作权，亦不承担相应法律责任。如有侵权，请联系我们删除。
复制链接
相关推荐
发表评论

评论记录：

未查询到任何数据！