用大数据思维做运维监控是怎样一种体验?

这篇文章谈的是运维都有哪些数据,哪些指标,以及数据呈现。并没有谈及如何和大数据相关的架构做整合,从而能让这些数据真的变得活起来。

 

  比较凑巧的是,原先百度的桑文峰的分享也讲到日志的多维度分析,吃完饭的时候,一位优酷的朋友也和我探讨了关于业务监控的的问题。而我之前发表在肉饼铺子里的一篇文章《 大数据给公司带来了什么 》也特地提到了大数据对于整个运维的帮助,当时因为这篇内容的主旨是罗列大数据的用处,自然没法细讲运维和大数据的整合这一块。

 

  上面的文字算引子,在步入正式的探讨前,有一点我觉得值得强调:

 

  虽然这里讲的是如何将大数据思维/架构应用于运维,平台化运维工作,但是和大数据本质上没有关系,我们只是将大数据处理的方式和思想应用在运维工作上。所以,即使你现在所在的公司没有数据团队支撑,也是完全可以通过现有团队完成这件事情的。

 

  1 运维监控现状

 

  很多公司的运维的监控具有如下特质:

 

  只能监控基础运维层次,通过zabbit等工具提供服务器,CPU,内存等相关的监控。这部分重要,但确实不是运维的核心。

 

  对业务的监控是最复杂的,而现在很多公司的要么还处于Shell脚本的刀耕火种阶段,要么开发能力较强,但是还是东一榔头西一棒子,不同的业务需要不同的监控系统,人人都可以根据的自己的想法开发一个监控的工具也好,系统也好,平台也好。总之是比较凌乱的。

 

  使用第三方的监控平台。这个似乎在Rails/NodeJS/Pythone相关语系开发的产品中比较常见。我不做过多评价,使

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Cloudera Manager是一款用于大数据平台的管理工具,它提供了一套集中化的控制台和工具,用于对大数据平台进行运维操作。 Cloudera Manager的主要功能包括集群管理、监控和警报、服务配置和升级、安全性管理等。在使用Cloudera Manager进行大数据平台的运维操作时,可以按照以下步骤进行: 1. 创建集群:在Cloudera Manager控制台中,可以通过向导式界面创建新的集群。在创建过程中需要指定集群的名称、主机节点、角色和服务等。 2. 管理服务:通过Cloudera Manager可以管理各个服务的配置和状态。可以对服务进行启动、停止、重新启动等操作,并进行监控和警报设置。 3. 配置管理:Cloudera Manager提供了一套灵活的配置管理系统,可以对各个服务的配置进行修改和管理。可以根据需求对数据节点、NameNode、YARN资源管理器等进行配置优化。 4. 升级管理:Cloudera Manager支持集群的升级操作,可以通过控制台进行版本升级,同时提供了预检和回滚功能,确保升级的顺利进行。 5. 安全性管理:Cloudera Manager提供了一套完善的安全性管理系统,可以配置SSL加密和认证,管理Kerberos认证和授权,并且支持集成第三方安全工具。 6. 监控和警报:Cloudera Manager可以实时监控集群的状态和性能,并设置警报规则。可以查看CPU、内存、磁盘使用率、任务运行情况等,并及时发送警报邮件或短信。 7. 故障排除:Cloudera Manager提供了故障排除工具和日志管理。可以查看集群和服务的日志,定位和解决故障。 总而言之,Cloudera Manager是一款功能强大的大数据平台运维工具,通过它可以方便地管理和操作大数据平台的各个组件和服务。它提供了一套集中化的管理和监控系统,简化了大数据平台的运维工作,提高了运维效率。 ### 回答2: Cloudera Manager是一个大数据平台的运维工具,它提供了一种简化和自动化管理和监控大数据集群的方法。以下是Cloudera Manager大数据平台运维操作的指南: 1. 安装和配置:首先,需要下载并安装Cloudera Manager。安装完成后,打开Cloudera Manager Web界面,配置一些基本信息,如主机名、端口号和数据库等。 2. 集群管理:接下来,需要添加和管理集群。在Cloudera Manager中,可以通过“添加服务”来选择要安装和配置的各种组件,如Hadoop、Hive、HBase等。然后,将主机添加到集群中,分配相应的角色和服务。 3. 监控和调优:Cloudera Manager提供了强大的监控和调优功能,可以实时监控集群的健康状况和性能指标。可以设置警报,并快速诊断和解决潜在的问题。此外,Cloudera Manager还提供了性能调优建议和自动化调整资源配置的功能。 4. 管理和维护:Cloudera Manager简化了大数据平台的管理和维护工作。可以使用Cloudera Manager进行软件升级和补丁管理,以确保集群的安全和稳定性。此外,还可以执行备份和恢复操作,保护数据的安全性。 5. 安全和权限管理:Cloudera Manager提供了安全和权限管理功能,可确保集群和数据的安全性。可以配置用户、组和角色,并为不同的用户分配不同的权限。此外,还可以配置加密和防火墙等安全措施。 总之,Cloudera Manager是一个强大而全面的大数据平台运维工具,通过简化和自动化管理和监控任务,帮助管理员提高工作效率,保证集群的高可用性和性能。 ### 回答3: Cloudera Manager是一种用于大数据平台的运维管理工具,通过简化操作和提供全面的监控功能,帮助管理员更轻松地管理和维护大数据集群。以下是Cloudera Manager的运维操作指南: 1. 安装和配置:首先需要安装Cloudera Manager,并按照指引配置相关参数,包括集群规模、节点配置、网络设置等。 2. 群集管理:Cloudera Manager提供了一种简便的方式来管理大数据集群。管理员可以通过Cloudera Manager界面添加、删除和管理集群中的节点,实现扩容和缩容的操作。 3. 监控和诊断:Cloudera Manager提供了丰富的监控指标和仪表盘,可以实时监控集群的各个组件和服务的状态。管理员可以通过查看日志和警报来检查并解决潜在的问题。 4. 资源管理:Cloudera Manager提供了资源管理和调度功能,可以根据集群的负载情况自动调整资源分配。管理员可以设置资源配额和优先级,确保集群资源的高效利用。 5. 配置管理:通过Cloudera Manager,管理员可以集中管理集群中的配置文件和参数。可以方便地修改和应用配置,确保集群的稳定性和一致性。 6. 升级和扩展:Cloudera Manager支持集群的升级和扩展。管理员可以使用升级向导来进行版本升级,并使用扩展向导来添加新的节点和服务。 7. 安全管理:Cloudera Manager提供了安全管理功能,可以实现对集群中数据的加密、权限控制和访问控制。管理员可以通过Cloudera Manager来配置和管理安全策略。 通过以上的运维操作指南,管理员可以更好地利用Cloudera Manager来管理和维护大数据平台,提高运维效率和系统稳定性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值