天池新人实战赛——阿里移动推荐算法大赛(御膳房、DTPAI、ODPS初体验)

本文介绍了参与阿里移动推荐算法大赛的经历,探讨了ODPS(开放数据处理服务)在大数据处理中的作用,以及DT时代的PAI(人工智能平台)和ODPS SQL的特性。作者提到ODPS能有效处理PB级数据,而PAI的使用需要进一步学习,同时分享了面对11亿多条数据的震撼体验。
摘要由CSDN通过智能技术生成

几个名词:

ODPS(OpenData Processing Service):开放数据处理服务由阿里云自主研发,提供针对TB/PB级数据、实时性要求不高的分布式处理能力,应用于数据分析、挖掘、商业智能等领域。

DT(data technology):数据时代

PAI(Platform of Artificial Intelligence):人工智能平台

ODPS SQL:

ODPS SQL适用于海量数据(TB级别),实时性要求不高的场合,它的每个作业的准备,提交等阶段要花费较长时间,因此要求每秒处理几千至数万笔事务的业务是不能用ODPS SQL完成的。

ODPS SQL采用的是类似于SQL的语法,可以看作是标准SQL的子集,但不能因此简单的把ODPSSQL等价成一个数据库,它在很多方面并不具备数据库的特征,如事务、主键约束、索引等。目前在ODPS中允许的最大SQL长度是2MB。

开始正文:

PAI使用手册:http://yushanfang.com/portal/help/doc.html?spm=0.0.0.0.5D6cWZ&file=SuanFaPingTai

开始玩了会PAI,结果没玩明白,回头还得认真看看使用手册。

然后又用了下御膳房

看到这个表有多少条数据了吗,1165522826,11亿多条!!!长这么大第一次见这么大的表,当时眼泪就留下来了0.0

还好阿里的ODPS够给力,分分钟出计算结果。

ODPS SQL:https://help.aliyun.com/document_detail/odps/SQL/summary.html?spm=5176.docodps/summary/welcome.6.145.DibfTa

用了一会ODPS SQL,感觉它和HIVE SQL语法差不多。

    •  
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

光于前裕于后

您的打赏将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值