Какой лучший способ загрузить все файлы из Google Cloud Storage?
Загрузите файлы и папки из хранилища Google Storage в локальную папку
Ответ 1
Посмотрите инструмент gsutil. Вы можете использовать команду cp с опцией -R
(рекурсивный) и -m
(многопоточность).
gsutil -m cp -R gs://<bucket_name> .
И если вы хотите попробовать его с помощью обычного bucket, попробуйте
gsutil -m cp -R gs://uspto-pair .
Ускорение, предоставляемое многопоточным процессом, может быть весьма значительным:
$ time gsutil cp -R gs://uspto-pair/docs/2010-08-28 .
...
real 0m12.534s
против
$ time gsutil -m cp -R gs://uspto-pair/docs/2010-08-28 .
...
real 0m3.345s
Ответ 2
Если gsutil
вызывает исключение (CommandException: Wrong number of arguments for "cp" command.
), Попробуйте следующее:
gsutil -m cp -R gs://BUCKETNAME ./LOCALFOLDERNAME
Ответ 3
В моем случае то, что работало, было перемещение в ведро в браузере gui и щелчок левой кнопкой мыши по файлу и "Сохранить файл".
Это, очевидно, ужасно для нескольких файлов, но вы можете сжимать их, конечно, в один файл (с помощью облачной консоли google).
см. этот поток.
Кроме того, если у вас нет ведра, вы можете создать его, а затем загрузить его с помощью консоли gcloud, например. gsutil cp file.tgz gs://<bucket>
Ответ 4
Вот что сработало для меня:
Шаг 1. Установите gsutil на свой локальный компьютер: https://cloud.google.com/storage/docs/gsutil_install?hl=fr
Шаг 2: скопируйте файлы из корзины на локальный компьютер, выполнив команду: gsutil cp [-r if repository] gs://[BUCKET_NAME]/[OBJECT_NAME] [OBJECT_DESTINATION_IN_LOCAL]
Ответ 5
Используйте приведенный ниже пример кода для загрузки папки из облачного хранилища Google непосредственно в локальную папку os.system('gsutil -m cp -R gs://abc/./downloadtolocal')