开源大数据周刊-第76期

摘要： 本期周刊包括开源大数据核心组件Hadoop和Impala的最新消息，以及HBase、Kafka、TensorFlow等主流开源组件的实践分享和技术实现，还有来自京东推荐部门的推荐系统演进史，纯干货分享。

资讯

• Apache Impala 成为顶级Apache项目
  5年前Cloudera公司宣布Impala项目，3年前Impala加入Apache基金会，近期Impala已经毕业成为顶级Apache软件基金会项目。Impala是一个高性能分析数据库，可针对存储在 Apache Hadoop 集群中的 PB 级数据进行闪电般快速的分布式SQL查询。阿里云E-MapReduce产品近期也加入了对Impala的支持。
• Apache Hadoop 3.0.0 GA版正式发布
  经过4个alpha版本和1个beta版本之后，Hadoop 3.0正式版发布，支持HDFS纠删码、YARN Timeline Service v.2、S3Guard等新特性，同时Hadoop 3.0也是首次官方支持阿里云OSS文件系统。
• 腾讯：谷歌 AI 开源框架 TensorFlow 存在自身安全风险
  腾讯安全平台部预研团队发现谷歌人工智能学习系统 TensorFlow 存在自身安全风险，可被黑客利用带来安全威胁，其已向谷歌报告这一风险。

技术

• 大数据查询——HBase读写设计与实践
  本文作者是中国民生银行大数据开发工程师，在文中介绍了从基于Oracle的存储查询系统迁移到HBase分布式平台过程中的技术选型、RowKey 设计以及Spark写HBase过程等关键流程。同时还记录了过程中踩到的坑。
• Apache Kafka事务简介
  本文翻译自Confluent官网博客文章，深入探讨了Kafka的事务特性。作者介绍了事务API设计的主要用例，Kafka的事务语义，JavaClient事务API细节，以及实现方面一些有趣的地方。同时，文章还讨论了API使用方面的一些重要因素。
• 如何使用TensorFlow实现音频分类任务
  本文介绍了一种使用 TensorFlow 将音频进行分类（包括种类、场景等）的实现方案，包括备选模型、备选数据集、数据集准备、模型训练、结果提取等都有详细的引导，特别是作者还介绍了如何实现 web 接口并集成 IoT。
• 深度解析京东个性化推荐系统演进史
  本文来自时任京东推荐部门团队的负责人和架构师，收录在京东技术书籍中。介绍了推荐系统的整体业务架构、底层数据平台的建设以及关键技术点。其中Hadoop、Spark、HBase以及Kafka等开源大数据产品分别在离线和在线计算中发挥重要的作用。