在华为云大数据存算分离方案中,OBS除了可以与大数据平台对接外,还可以直接与开源的大数据组件对接。 当前支持的大数据组件如下: Hadoop Hive Spark Flume DataX Druid Flink logstash 父主题: …
OBS Browser+ 提供强大的定时上传功能,您可以将本地磁盘或目录中的一个或多个文件周期性的上传到目标桶的对应路径下。 首先进入定时上传页面,单击“立即上传”,进入到“创建定时上传”页面。 然后选择目标桶类型、桶路径、本地上传对象,您…
OBS Browser+对大于50MB的文件/对象默认采用分段方式进行上传/下载,与分段任务相关的参数都在“系统设置”->“基础设置”中。 表1 参数 描述 最大并行任务数 任务同时运行的最大数量,默认是3,取值范围是:1~50。 单…
爱数AnyBackup Cloud结合华为云基础服务,将本地数据备份或迁移到云,提供安全、经济、易管理的数据保护解决方案。 购买方式 进入华为云市场,搜索AnyBackup Cloud,根据场景选择适合自己业务的备份方案。 父主题: 使用备…
本节介绍最佳实践中资源规划情况,包含以下内容: 表1 资源和成本规划说明 资源 资源说明 成本说明 OBS 需要创建一个OBS桶用于存放静态网站文件,同时在OBS桶上完成静态网站托管配置和自定义域名绑定。 OBS的使用涉及以下几项费用: 存…
OMS是一种云上的对象数据迁移服务,具有安全、高效等优势。数据迁移时,采用HTTPS数据加密通道,确保数据的传输安全。在重复迁移过程中,只迁移有变动或新增的对象,降低成本。 图1 OMS方式迁移数据示意图 创建OBS桶 登录OBS控制台,创…
您需要先在OBS管理控制台上创建一个桶,用于存放静态网站资源,并启用该桶的静态网站托管,然后通过OBS提供的绑定自定义域名功能,将自定义域名与新创建的桶绑定,再通过云解析服务(Domain Name Service,DNS)创建和配置域名托…
简介 云数据迁移(Cloud Data Migration,CDM)提供同构/异构数据源之间批量数据迁移服务。CDM通过创建定时作业,将用户自建存储服务器上的文件系统、数据库、对象存储等数据源与华为云OBS进行连接,从而实现定时、自动地将本…
DES磁盘方式同样采用离线的方式将用户数据磁盘(USB、eSATA接口的磁盘等)快递至华为云,实现数据高效传输。磁盘方式适用于30TB以下的数据量搬迁。 图1 DES磁盘方式搬迁数据示意图 创建OBS桶 通过OBS控制台或OBS Brows…
概述 Apache Spark是专为大规模数据处理而设计的快速通用的计算引擎。 前提条件 已安装Hadoop,具体请参见Hadoop对接OBS。 注意事项 为了减少日志输出,在/opt/spark-2.3.3/conf/log4j.prop…