对象存储
对象存储用于存储管理比较的大文件,方便在集群内部转存。
对象存储支持AWS S3协议,您可以使用各种s3兼容的客户端进行使用,同时平台在Notebook的镜像中默认集成了aws s3 cli,方便您的使用。
创建对象存储
对象存储的使用
列表中会列出每一个对象存储的相关信息:
- URL:对象存储外部访问的URL
- 内部URL:对象存储内部访问的URL,在平台内部可以使用内部URL,传输更快
- Bucket:对象存储默认桶
- AccessKey:对象存储访问AccessKey
- SecretKey:对象存储访问SecretKey
点击 浏览 可以浏览当前对象存储的内容
附录
在Linux上使用aws s3 cli
安装
curl "https://awscli.amazonaws.com/awscli-exe-linux-x86_64.zip" -o "awscliv2.zip"
unzip awscliv2.zip
sudo ./aws/install
配置
vi ~/.aws/credentials
credentials
[default]
aws_access_key_id = ACCESS_KEY
aws_secret_access_key = SECRET_KEY
基本命令
# 创建Bucket
aws s3 mb s3://test --region us-east-1 --endpoint-url http://obs-core-internal.ailines.cn
# 列出Bucket
aws s3 ls --endpoint-url http://obs-core-internal.ailines.cn
# 上传文件
aws s3 cp awscliv2.zip s3://test --endpoint-url http://obs-core-internal.ailines.cn
# 列出Bucket下所有对象
aws s3 ls s3://test --endpoint-url http://obs-core-internal.ailines.cn
# 目录前缀
aws s3 cp test.txt s3://test/folder1/ --endpoint-url http://obs-core-internal.ailines.cn
aws s3 ls s3://test/folder1/ --endpoint-url http://obs-core-internal.ailines.cn
# 删除
aws s3 rm s3://test/awscliv2.zip --endpoint-url http://obs-core-internal.ailines.cn
# 递归上传
aws s3 cp --recursive llama s3://myobs-2-4-2 --endpoint-url http://obs-core-internal.ailines.cn
# 递归下载
aws s3 cp --recursive s3://myobs-2-4-2/models . --endpoint-url http://obs-core-internal.ailines.cn