以下是 trtexec.exe
的详细使用说明,综合了核心功能、参数解析、典型场景及常见问题,结合多篇技术文档和实践经验整理而成:
一、核心功能
trtexec
是 TensorRT 官方提供的命令行工具,主要用途包括:
- 模型转换:将 ONNX、Caffe、UFF 等格式的模型转换为 TensorRT 引擎(
.engine
或.plan
文件)。 - 性能测试:测量引擎的推理延迟、吞吐量,支持随机输入或用户自定义输入。
- 网络分析:查看 ONNX 或引擎文件的逐层信息(如输入输出维度、算子类型)。
二、参数配置详解
1. 模型选项
- 输入输出:
--onnx=<file>
:指定 ONNX 模型路径(支持动态/静态输入)。--saveEngine=<file>