大数据
文章平均质量分 85
深入探讨大数据技术的前沿动态和实际应用。关于大数据处理、分析和应用的最新资讯和深度分析。
白-胖-子
白胖子 sunmy@sunmy.pro
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
【生产实践】DolphinScheduler集群MySQL数据源切换终极指南|附生产环境避坑手册
DolphinScheduler数据库切换简明指南 修改配置文件 vim /app/dolphinscheduler/conf/evn/dolphinscheduler-env.sh 添加: export SPRING_DATASOURCE_URL="jdbc:mysql://:3306/?characterEncoding=UTF-8&allowMultiQueries=true" export SPRING_DATASOURCE_USERNAME="" export SPRING_DATASOURCE_原创 2025-06-12 15:52:02 · 1154 阅读 · 0 评论 -
【技术原理】ELK技术栈的历史沿革与技术演进
ELK技术栈(Elasticsearch、Logstash、Kibana)自2010年诞生以来,经历了从日志处理工具到企业级数据操作系统的演变。早期,ELK通过Elasticsearch的分布式搜索能力、Logstash的日志采集与过滤功能,以及Kibana的可视化工具,解决了海量日志处理的需求。随着企业级需求的增加,ELK架构经历了多次革新,引入了消息队列、轻量化数据采集工具(如Filebeat)和模块化扩展(如Beats家族),提升了数据处理的可靠性和效率。当前,ELK技术栈已发展为覆盖日志、指标、追踪原创 2025-05-16 15:59:06 · 1144 阅读 · 0 评论 -
【技术原理】通过包饺子一文搞懂基于DAG任务调度系统设计
本文介绍了一种基于生产者-消费者模型的并行DAG优化设计,通过重构任务拓扑结构,实现了高效的并行处理。设计包括并行预处理和流水线并行区,关键调度机制涉及生产者-消费者解耦、双重并行维度和动态负载均衡。此外,还提出了容错增强策略,如断点续传和异常处理链,以及性能监控看板,用于实时监控和优化系统性能。该设计通过环形缓冲区解耦生产/消费速率,基于背压控制实现动态资源分配,并通过双重维度的并行加速,达到了理论最大效率的92%。原创 2025-05-14 16:49:13 · 1250 阅读 · 0 评论 -
【IT趣闻】DAG(有向无环图)的前世今生:从数学迷宫到数字世界的隐形骨架
什么是DAG?什么又是可视化 DAG?目前互联网生产中主流使用的有哪些开源或商业版本的软件?用来解决什么问题?一文秒懂DAG有向无环图的前世今生。原创 2025-05-14 16:45:15 · 836 阅读 · 0 评论 -
【生产实践】Dolphinscheduler集群部署后Web控制台不能登录问题解决
摘要:本文介绍了Dolphinscheduler集群部署后Web控制台登录失败问题解决详细过程原创 2025-05-14 14:25:04 · 1230 阅读 · 0 评论 -
快速认识:数据库、数仓(数据仓库)、数据湖与数据运河
从严谨的数据库到开放的数据湖,从静态的报表分析到实时的数据流转,四大技术体系共同构建了数据世界的基础设施。企业无需纠结「非此即彼」的选择,而是应像搭建城市交通网一样,让数据在合适的「管道」中高效流动——让交易数据走「高速公路」(实时数据库+运河),让历史数据进「图书馆」(数仓),让原始数据住「生态湿地」(数据湖)。当技术回归本质,我们最终追求的,是让数据像自来水一样,随时可用、安全可靠、按需流转。这,就是数据技术的终极浪漫。原创 2025-04-17 14:57:17 · 1615 阅读 · 0 评论 -
从万维网到人工智能基石:大数据技术三十年演进史(1991-2025)
万维网用HTTP/HTML打破信息壁垒,Google以PageRank/MapReduce重构数据价值,Hadoop与Cloudera则通过分布式架构将数据转化为生产力。2025年的技术体系已形成数据存储-计算-治理-应用的全链路闭环,成为大模型训练、边缘智能等AI场景的核心支撑。正如蒂姆·伯纳斯-李在2012年伦敦奥运会所言:“This is for everyone.”——当数据基础设施如同水电般普惠时,人类文明的智能革命才真正步入成熟期。原创 2025-04-17 14:24:21 · 1047 阅读 · 0 评论 -
大数据简史:从绳结到智慧浪潮
而1991年万维网的出现,则像一根导管,将散落的数据孤岛连成汪洋。此时的数据量,已从“沙粒”膨胀为“星云”——纽约证交所每秒处理百万笔交易,自动驾驶汽车日产生60TB数据,相当于连播15年高清电影。当GPT-5写下“绳结记星月,比特铸云庭”的诗句时,它既是历史的观察者,也是新纪元的书写者。人类对数据的探索,像一场跨越万年的史诗。这些最早的“数据库”,如同孩童用积木拼凑数字,将世界装进有限的容器。正如亚历山大图书馆的火光未曾熄灭,数据的长河将永远奔流——因为文明的本质,正是信息的永恒传递与再造。原创 2025-04-17 13:59:34 · 690 阅读 · 0 评论
分享