![](https://img-blog.csdnimg.cn/20201014180756754.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
技术文章
LinkTime_Cloud
这个作者很懒,什么都没留下…
展开
-
Uber是如何管理大规模数据工作流的?
让这些数据可操作,需要进行数据提取、转换、解析和编排,从而在传统商业智能、机器学习、模型训练、可视化和报表等场景中广泛应用。尽管在Uber迅速发展的初期,上线了广覆盖面的数据工作流系统,用户须针对每种用例选择几种工具叠加使用。尽管此大型工具箱可实现敏捷且响应迅速的增长,但事实证明,它难以管理和维护,需要工程师在应对不同项目时,学习重复数据工作流系统。因此,Uber需要一个可以创建、管理、调度和部署数据工作流的中央工具。利用Uber之前部署的各种工具,包括基于Airflow的平台,Uber的技术开始开发与原创 2020-07-06 18:56:42 · 444 阅读 · 0 评论 -
Marquez,开源的元数据管理工具
Marquez是一款开源的元数据服务,用于数据生态系统元数据的收集、汇总及可视化。它维护着数据集的消费和生产,为作业运行时和数据集访问频率提供全局可见性,提供集中的数据集生命周期管理等。WeWork发布并开源了Marquez。Marquez的特征: 集中式元数据管理支持: 数据血缘(Data Lineage) 数据治理(Data governance) 数据健康检查(Data health)数据发现+探索(Data...原创 2020-07-06 18:56:03 · 9110 阅读 · 0 评论 -
为何需要数据血缘解决方案
在数据Show的这期节目中,记者采访了Stitch Fix的软件工程师Neelesh Salian,该公司结合了机器学习和人类专业知识进行了个性化购物的研究探索。随着公司将机器学习集成到其产品和系统中,关键基础技术开始发挥作用。这并不意外,因为当前的机器学习和AI技术需要大量数据,尤其是用于训练模型的标记数据。同时还基于包括:安全性,隐私性,可靠性等因素的考虑,也鼓励着各大公司投资一整套数据技术。在与数据工程师、数据科学家和AI研究人员的对话中发现,他们需要一套能帮助他们跟踪数据血缘和数据溯源的解决方案原创 2020-07-06 18:53:57 · 570 阅读 · 0 评论 -
深度剖析数据中台技术架构
智领云联合创始人&CTO,前EA(艺电)大数据平台高级工程经理宋文欣博士再度直播开讲,为观众深度剖析了数据中台的技术架构。数据中台的定义在介绍数据中台技术架构之前,宋文欣博士表示,在谈到设计数据中台建设需要的体系架构时,首先需要明确企业对数据中台的需求以及数据中台的定义。宋文欣认为,数据中台在一个企业的不同层面会有不同的需求。从业务部门来看,数据中台应该能够高效地进行数据的采集和存储,提供一系列的工具,让业务部门可以很方便地去开发数据流水线、进行流式或者实时的数据处理,并把数据看..原创 2020-07-06 18:53:05 · 1912 阅读 · 0 评论 -
数据中台行业应用与实践
智领云第六次技术直播如约而至。智领云科技解决方案架构师文征就数据中台的行业应用与实践与与会的观众进行了深入细致的交流。在前五次的直播中,智领云科技的诸多技术大咖们分别对数据中台的一些概念、方法论以及底层所涉及到的技术,都做了很详细的讲解,也介绍了一部分智领云的产品。在本次直播中,文征力图结合数据中台在各行业落地的具体应用实践,把前五次直播所讲的内容做一个总结,然后就一些大家始终存在疑惑的问题,例如数据中台与大数据平台的区别,数据中台与传统的主数据的区别等进行结合实例的详细讲解,以帮助大家真正捋清数据原创 2020-07-06 18:48:41 · 344 阅读 · 0 评论 -
基于智领云BDOS发布的人脸识别器
在创新领域当中,大数据支撑的人工智能产业落地是一个炙手可热的方向,人工智能是一个新的、全方位的技术突破的领域,它最大的价值在于帮助已有的行业进行业务升级和转型。今天我们带来以人脸识别作为人工智能当中的分支场景来解释基于图像数据的应用在BDOS上的应用以及相关的示例原创 2019-03-18 11:01:18 · 327 阅读 · 0 评论 -
基于BDOS大数据实验平台框架 – 5分钟玩转大数据课程
by Norman Wang要启动一个真实的大数据应用需要可扩展和容错的框架来处理大量数据并保证高处理的速度。 虽然现在有许多技术来支持不同场景下的大数据分析,处理和存储。 然而,这些技术通常是基于集群的。 因此,学习和使用这些应用需要复杂的实验环境。 这些设置的资源成本很高,需要耗费很多的时间和人力成本。而现在,通过智领云科技自主研发的BDOS大数据系统,这一切会变得非常简单;BDOS以”让...原创 2018-12-18 15:50:03 · 875 阅读 · 0 评论 -
在BDOS中使用Superset打造自助式大数据可视化分析系统
可视化数据分析平台通常来说人们觉得当数据集很小时,图表和图形很容易可视化。 但是当数据集变得很大的时候,事情就会变得非常有趣了。 因为现在存储大量数据比以往任何时候都容易,人们正在努力弄清楚如何分析和可视化他们收集的数据。生活在大数据时代的我们是幸运的,一些非常聪明和富有创造力的工具正设法获取大数据并将其变成迷人的地图,图表和交互式信息图表。 BDOS作为能够一站式发布这一些应用的大数据平台为...原创 2018-11-26 12:05:21 · 1306 阅读 · 1 评论 -
DataOps: 大数据新战线
原作者:彭锋翻译人:王龙飞原文链接: http://www.linktimecloud.com/posts/19252008年我在我的第一份工作(Ask.com)中开始使用Hadoop。当时是因为昂贵的Oracle集群无法处理不断增加的分析工作量,公司不得不切换到Hadoop。 随后在Twitter担任数据工程师的第二份工作中,我在第一线参与并推动了如何使用数据给几乎所有Twitter的产品...原创 2018-10-25 16:55:56 · 834 阅读 · 0 评论