dongbo1030的博客

原创 pytorch模型转换

torch.jit.trace 加载模型后随便构造一个输入使用模型推理一次，通过跟踪方式将转换模型，优点是简单方便，缺点是如果推理代码中有根据输入走不同分支的判断，该方法不适合。torch.jit.script 只导入训练好的模型，不需要构造输入执行一遍模型推导。为了训练好的模型方便在生产环境中使用，可用将python生成的模型转换为C++可使用的模型(.pt模型文件)。python模型转换为.pt格式可用使用两种方式：torch.jit.trace 和 torch.jit.script。