pytorch分布式训练问题汇总

最新推荐文章于 2025-05-27 19:48:44 发布

原创

最新推荐文章于 2025-05-27 19:48:44 发布 · 1.8k 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#linux #python #深度学习

本文总结了PyTorch在进行单机多卡训练时遇到的问题，包括如何手动指定端口号来解决训练过程中的通信问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

单机多卡训练

问题1

Traceback (most recent call last):
  File "train_tasks.py", line 493, in <module>
    main()
  File "train_tasks.py", line 237, in main
    torch.distributed.init_process_group(backend="nccl")
  File "/root/anaconda3/envs/vilbert/lib/python3.6/site-packages/torch/distributed/distributed_c10d.py", line 397,