* Fixes sharding

* Fixes typo with DATA env value
This commit is contained in:
Mat 2019-05-22 11:23:46 +01:00 коммит произвёл GitHub
Родитель 05126d2ba0
Коммит 9c503883e3
Не найден ключ, соответствующий данной подписи
Идентификатор ключа GPG: 4AEE18F83AFDEB23
5 изменённых файлов: 6 добавлений и 5 удалений

2
.gitignore поставляемый
Просмотреть файл

@ -109,3 +109,5 @@ venv.bak/
.vscode/settings.json
.dev_env
.azureml

Просмотреть файл

@ -1 +0,0 @@
{"Id": null, "Scope": "/subscriptions/edf507a2-6235-46c5-b560-fd463ba2e771/resourceGroups/amldistrg/providers/Microsoft.MachineLearningServices/workspaces/workspace"}

Просмотреть файл

@ -178,7 +178,7 @@ def input_fn(
if is_training:
# Shuffle the input files
if distributed:
dataset = dataset.shard(hvd.size(), hvd.local_rank())
dataset = dataset.shard(hvd.size(), hvd.rank())
dataset = dataset.shuffle(buffer_size=file_shuffle_buffer) # _NUM_TRAIN_FILES

Просмотреть файл

@ -136,7 +136,7 @@ def input_fn(
if is_training:
# Shuffle the input files
if distributed:
dataset = dataset.shard(hvd.size(), hvd.local_rank())
dataset = dataset.shard(hvd.size(), hvd.rank())
dataset = dataset.shuffle(buffer_size=file_shuffle_buffer) # _NUM_TRAIN_FILES

Просмотреть файл

@ -100,7 +100,7 @@ def submit_images_local(c, epochs=1):
"--data-format": "channels_first",
},
dependencies_file="TensorFlow_imagenet/environment_gpu.yml",
docker_args=["-v", f"{env_values['data']}:/data"],
docker_args=["-v", f"{env_values['DATA']}:/data"],
wait_for_completion=True,
)
print(run)
@ -155,7 +155,7 @@ def submit_tfrecords_local(c, epochs=1):
"--data-format": "channels_first",
},
dependencies_file="TensorFlow_imagenet/environment_gpu.yml",
docker_args=["-v", f"{env_values['data']}:/data"],
docker_args=["-v", f"{env_values['DATA']}:/data"],
wait_for_completion=True,
)
print(run)