This commit is contained in:
Nicki Skafte 2021-03-24 10:52:36 +01:00 коммит произвёл GitHub
Родитель 2bec25c159
Коммит d64ee21333
Не найден ключ, соответствующий данной подписи
Идентификатор ключа GPG: 4AEE18F83AFDEB23
1 изменённых файлов: 4 добавлений и 3 удалений

Просмотреть файл

@ -131,7 +131,7 @@ import torch.multiprocessing as mp
from torch.nn.parallel import DistributedDataParallel as DDP
import torchmetrics
def metric_ddp(rank, world_size)
def metric_ddp(rank, world_size):
os.environ['MASTER_ADDR'] = 'localhost'
os.environ['MASTER_PORT'] = '12355'
@ -178,8 +178,9 @@ def metric_ddp(rank, world_size)
# cleanup
dist.destroy_process_group()
world_size = 2 # number of gpus to parallize over
mp.spawn(metric_dpp, args=(world_size,), nprocs=world_size, join=True)
if __name__ == "__main__":
world_size = 2 # number of gpus to parallize over
mp.spawn(metric_ddp, args=(world_size,), nprocs=world_size, join=True)
```
</details>