Maxcompute入门

1、前期准备

 

注册阿里云官网账号

准备RAM用户

进入控制台,获取个人的AccessKey ID 和 AccessKey Secret 

申请开通maxcompute服务,创建一个MaxCompute项目,记录项目名称,例如我的是:default_project_******6

2、中台计算任务

本文介绍MaxCompute Studio、dataworks两种方式开发计算任务

2.1 添加阿里云账户

打开IDEA -> file -> settings -> plugins,搜索并安装插件 MaxCompute Studio

在IDEA里的Settings对话框左侧导航栏上,单击MaxCompute Studio > Accounts,进入Accounts配置选项页,点击加号。

  • Account Name:该账户在MaxCompute Studio中的标识名称。
  • Using properties:手动填入AccessKey ID和AccessKey Secret。此选项与Using properties file选项二选一即可。
    • Access Id:填入阿里云账号或RAM用户的AccessKey ID。
    • Access Key:填入阿里云账号或RAM用户的AccessKey Secret。

2.2 IDEA的MaxCompute Studio

使用MaxCompute Studio开发java程序

  1. 创建maxcompute java项目

  1. 新建一个maxcompute java类

  1. 选择java类的类型,比如UDF,输入类名后回车。

UDF:自定义函数【一个输入对应一个输出】

UDTF:为用户自定义表值函数【一个输入对应多个输出】

UDAF:为用户自定义聚合函数【多个输入对应一个输出】

  1. 创建的java UDF类如下

  1. 注册MaxCompute UDF。

在UDF Java文件上单击右键,选择Deploy to server

在Package a jar, submit resource and register function对话框中配置如下参数后,单击OK

  1. 注册完后,在dataworks上使用如下:

2.3 在dataworks上编写sql、嵌入式java

3、java应用集成SDK

业务系统集成maxcompute,开发相关业务推送数据到数据中台。

sdk依赖配置如下

<dependency>
    <groupId>com.aliyun.odps</groupId>
    <artifactId>odps-sdk-core</artifactId>
    <version>0.40.10-public</version>
</dependency>

java sdk测试代码参考如下

import java.util.List;
import com.aliyun.odps.Instance;
import com.aliyun.odps.Odps;
import com.aliyun.odps.OdpsException;
import com.aliyun.odps.account.Account;
import com.aliyun.odps.account.AliyunAccount;
import com.aliyun.odps.data.Record;
import com.aliyun.odps.task.SQLTask;

public class OdpsSdk {
    private static final String accessId = "LTAI5tD**********vgLPDAL";
    private static final String accessKey = "QoBUb3****************lXA90nyf";
    private static final String endPoint = "http://service.odps.aliyun.com/api";
    private static final String project = "default_project_*****6";
    private static final String sql = "select * from secondtab;";
    private static final String insertSql = "insert into secondtab VALUES (009128, 'sdk', 'm');";

    public static void main(String[] args) {
        Account account = new AliyunAccount(accessId, accessKey);
        Odps odps = new Odps(account);
        odps.setEndpoint(endPoint);
        odps.setDefaultProject(project);
        Instance i;
        try {
            i = SQLTask.run(odps, insertSql);
            i.waitForSuccess();
            List<Record> records = SQLTask.getResult(i);
            for(Record r:records){
                System.out.println(r.get(0).toString());
            }
        } catch (OdpsException e) {
            e.printStackTrace();
        }
    }
}

4、费用估算

4.1、资源估算

1 CU = 4GB + 1 CPU Core

4.2、配置消费预警

高额消费预警,当天一个产品后付费消费大于提醒阈值时,每天短信提醒一次

4.3、查看消费账单

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
阿里大数据计算服务MaxCompute是阿里云提供的一种分布式大数据计算平台,主要用于数据仓库、数据分析和机器学习场景。以下是MaxCompute入门指南。 1. 注册阿里云账号并开通MaxCompute服务。登录阿里云官网,在控制台页面选择MaxCompute服务,按照提示操作开通MaxCompute。 2. 创建项目。在MaxCompute控制台页面,点击“项目列表”,然后选择“创建项目”。输入项目名称、项目所在地域和项目描述等信息,并提交创建。 3. 创建表。在项目详情页面,选择“开发指导”中的“数据表”选项,点击“新建表”按钮。填写表名、表结构等详细信息,并提交创建。 4. 导入数据。可以通过多种方式将数据导入MaxCompute,如使用MaxCompute客户端上传数据文件,或者通过数据集成服务将数据从其他数据库导入MaxCompute。 5. 执行SQL查询。在MaxCompute控制台的“开发指导”中,选择“数据开发”选项,点击“新建文件”按钮。在文件编辑器中编写SQL查询语句,然后点击“执行”按钮。结果会在页面下方显示。 6. 运行作业。MaxCompute支持通过编写MapReduce、Graph、UDF等作业来进行复杂的数据处理和计算。在“数据开发”中选择“任务编辑”选项,点击“新建任务”按钮。填写任务名称和作业类型,然后编写作业代码并提交运行。 7. 监控和调优。MaxCompute提供丰富的监控指标和可视化界面,用于监控作业的执行情况和资源使用情况。可以根据监控指标进行性能调优,提升作业执行效率。 8. 安全管理。MaxCompute提供访问控制、密钥管理等安全功能,保障数据的安全性和隐私性。可以配置ACL权限、加密存储等安全策略。 通过上述入门指南,用户可以快速上手阿里大数据计算服务MaxCompute,并利用其强大的数据处理能力进行数据分析、数据挖掘和机器学习等任务。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值