google-cloud-storage - 有没有办法直接在 Colab 中使用 Google Cloud Storage 的数据?

标签 google-cloud-storage google-colaboratory

我想在 Google Colab 中使用数据集 (170+GB)。我有两个问题:

  1. 由于Colab的可用空间约为66GB,如果数据托管在GCS中,有没有办法直接在Colab中使用GCS的数据?如果没有,可能的解决方案是什么?

  2. 由于可用空间有限,我无法进入 colab,如何直接从可下载链接将数据集上传到 GCS?

感谢任何帮助。

最佳答案

验证:

from google.colab import auth
auth.authenticate_user()

安装谷歌SDK:

!curl https://sdk.cloud.google.com | bash

初始化 SDK 以配置项目设置。

!gcloud init

1.将文件从 Cloud Storage 下载到 Google Colab

!gsutil cp gs://google storage bucket/your file.csv .

2.将文件从 Google Colab 上传到云端

gsutil cp yourfile.csv gs://gs bucket/

希望有帮助。 Source

关于google-cloud-storage - 有没有办法直接在 Colab 中使用 Google Cloud Storage 的数据?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/66938971/

相关文章:

python - 在谷歌云存储上保存模型历史

java - App Engine Java - 从 mp4 视频中提取缩略图

python - 来自 "ImportError: cannot import name ' 的变压器 : Error importing packages. 'torch.optim.lr_scheduler' SAVE_STATE_WARNING'

google-colaboratory - Keras model.fit 模型训练期间缓冲数据在 google colab 中被截断

Python Google Cloud Storage 未列出某些文件夹

python - 未在提供的 Blob 的 Flask App Engine 响应上设置内容长度 header

android - 如何将使用 sqlite 数据库的应用程序迁移到 Google Cloud。想要使用(CRUD)对数据的所有操作

python - 如何在不降低精度的情况下调整 tensorflow_federated TFF 中 CIFAR100 的超参数?

python - 有没有办法将 Tkinter 与 Google Colaboratory 一起使用?

google-colaboratory - 可以在Google Colab上安装Kaldi吗