干货 | 系统润滑,定时清理内存了解一下

点击上方“中兴开发者社区”,关注我们

每天读一篇一线开发者原创好文

前言

  • 内存总是不够用?

  • 缓存总是被占用?

  • 无法实时释放缓存?

这都不是事,看完本文让你的linux服务器时刻保持强劲动力!!!

首先需要了解两个东西“定时任务”与“内存释放”

定时任务

命令:crontab

命令相关参数:

  • -e (修改用户定时任务)

  • -l (列出用户的定时任务)

  • -r (删除用户定时任务)

  • -i (删除定时任务前通知用户)

定时任务设置参数

基本格式 :

示例1

示例2

内存释放

命令:

用于linux系统 (RedHat CentOS CGSL ubuntu)

  • sync 做同步,将所有未写的系统缓冲区写到磁盘中,以确保文件系统的完整性,否则在释放缓存的过程中,可能会丢失未保存的文件

  • 1 释放页缓存

  • 2 释放dentries和inodes

  • 3 释放所有缓存

实际操作

步骤:
  1. 编写内存释放的脚本

root用户下编写脚本

2.设置crontab

root用户下执行crontab -e命令

查看设置情况

[root@ems001 home]# crontab -l
*/1 * * * * /home/clean_mem.sh
[root@ems001 home]#

需要注意的是我们通过root用户执行的crontab命令,则该定时任务的规则仅适用于root用户,所以脚本的属组为root用户

3.查看定时任务的执行情况

定时任务的执行日志记录在/var/log/cron中

[root@ems001 home]# cd /var/log/
[root@ems001 log]# tail -f cron
Jul 24 10:37:01 ems001 CROND[19842]: (root) CMD (/home/clean_mem.sh)
Jul 24 10:38:02 ems001 CROND[19850]: (root) CMD (/home/clean_mem.sh)
Jul 24 10:39:01 ems001 CROND[19854]: (root) CMD (/home/clean_mem.sh)
Jul 24 10:40:01 ems001 CROND[19862]: (root) CMD (/home/clean_mem.sh)

查看内存释放情况

[root@ems001 home]# free
         total       used       free     shared    buffers     cached
Mem:      24554900    5807180   18747720      16232       1276    1827572
-/+ buffers/cache:    3978332   20576568
Swap:     18874364          0   18874364
[root@ems001 home]# free
         total       used       free     shared    buffers     cached
Mem:      24554900    4980332   19574568      16232       1300     999016
-/+ buffers/cache:    3980016   20574884
Swap:     18874364          0   18874364

两次对比可以看出释放了1G的内存

这样一个自动清理内存的设置就完成了

4.删除定时任务

结语

  • 通过定时任务来执行脚本的方法其实还有很多,比如直接使用crond服务,或者使用 at time

    如crond服务,如果用的任务不是以hourly monthly weekly方式执行的,则可以直接在/etc/cron.d目录中创建一个定时任务格式的脚本

  • 另外需要注意的很多人会存在疑惑的,使用 crontab -e 与 直接编辑 /etc/crontab有什么区别

    做系统级配置我们会直接配置 /etc/crontab,用户级的则用 crontab -e,一般还是建议大家使用 crontab -e ,这样系统也会帮着检查我们配置的脚本语法。

关于定时清理内存的方法,并不是所有服务器都适用,对于某些需要持续申请内存的服务来说,不断释放内存可能会造成处理速度降低,所以使用时还需要考虑自身服务特性来进行设置


  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Spark Streaming 和 Flink 都是流处理框架,但在一些方面有所不同。 1. 数据处理模型 Spark Streaming 基于批处理模型,将流数据分成一批批进行处理。而 Flink 则是基于流处理模型,可以实时处理数据流。 2. 窗口处理 Spark Streaming 的窗口处理是基于时间的,即将一段时间内的数据作为一个窗口进行处理。而 Flink 的窗口处理可以基于时间和数据量,可以更加灵活地进行窗口处理。 3. 状态管理 Spark Streaming 的状态管理是基于 RDD 的,需要将状态存储在内存中。而 Flink 的状态管理是基于内存和磁盘的,可以更加灵活地管理状态。 4. 容错性 Flink 的容错性比 Spark Streaming 更加强大,可以在节点故障时快速恢复,而 Spark Streaming 则需要重新计算整个批次的数据。 总的来说,Flink 在流处理方面更加强大和灵活,而 Spark Streaming 则更适合批处理和数据仓库等场景。 ### 回答2: Spark Streaming 和 Flink 都是流处理框架,它们都支持低延迟的流处理和高吞吐量的批处理。但是,它们在处理数据流的方式和性能上有许多不同之处。下面是它们的详细比较: 1. 处理模型 Spark Streaming 采用离散化流处理模型(DPM),将长周期的数据流划分为离散化的小批量,每个批次的数据被存储在 RDD 中进行处理,因此 Spark Streaming 具有较好的容错性和可靠性。而 Flink 采用连续流处理模型(CPM),能够在其流处理过程中进行事件时间处理和状态管理,因此 Flink 更适合处理需要精确时间戳和状态管理的应用场景。 2. 数据延迟 Spark Streaming 在处理数据流时会有一定的延迟,主要是由于对数据进行缓存和离散化处理的原因。而 Flink 的数据延迟比 Spark Streaming 更低,因为 Flink 的数据处理和计算过程是实时进行的,不需要缓存和离散化处理。 3. 机器资源和负载均衡 Spark Streaming 采用了 Spark 的机器资源调度和负载均衡机制,它们之间具有相同的容错和资源管理特性。而 Flink 使用 Yarn 和 Mesos 等分布式计算框架进行机器资源调度和负载均衡,因此 Flink 在大规模集群上的性能表现更好。 4. 数据窗口处理 Spark Streaming 提供了滑动、翻转和窗口操作等灵活的数据窗口处理功能,可以使用户更好地控制数据处理的逻辑。而 Flink 也提供了滚动窗口和滑动窗口处理功能,但相对于 Spark Streaming 更加灵活,可以在事件时间和处理时间上进行窗口处理,并且支持增量聚合和全量聚合两种方式。 5. 集成生态系统 Spark Streaming 作为 Apache Spark 的一部分,可以充分利用 Spark 的分布式计算和批处理生态系统,并且支持许多不同类型的数据源,包括Kafka、Flume和HDFS等。而 Flink 提供了完整的流处理生态系统,包括流SQL查询、流机器学习和流图形处理等功能,能够灵活地适应不同的业务场景。 总之,Spark Streaming 和 Flink 都是出色的流处理框架,在不同的场景下都能够发挥出很好的性能。选择哪种框架取决于实际需求和业务场景。 ### 回答3: Spark Streaming和Flink都是流处理引擎,但它们的设计和实现方式有所不同。在下面的对比中,我们将比较这两种流处理引擎的主要特点和差异。 1. 处理模型 Spark Streaming采用离散流处理模型,即将数据按时间间隔分割成一批一批数据进行处理。这种方式可以使得Spark Streaming具有高吞吐量和低延迟,但也会导致数据处理的粒度比较粗,难以应对大量实时事件的高吞吐量。 相比之下,Flink采用连续流处理模型,即数据的处理是连续的、实时的。与Spark Streaming不同,Flink的流处理引擎能够应对各种不同的实时场景。Flink的实时流处理能力更强,因此在某些特定的场景下,它的性能可能比Spark Streaming更好。 2. 窗口计算 Spark Streaming内置了许多的窗口计算支持,如滑动窗口、滚动窗口,但支持的窗口计算的灵活性较低,只适合于一些简单的窗口计算。而Flink的窗口计算支持非常灵活,可以支持任意窗口大小或滑动跨度。 3. 数据库支持 在处理大数据时,存储和读取数据是非常重要的。Spark Streaming通常使用HDFS作为其数据存储底层的系统。而Flink支持许多不同的数据存储形式,包括HDFS,以及许多其他开源和商业的数据存储,如Kafka、Cassandra和Elasticsearch等。 4. 处理性能 Spark Streaming的性能比Flink慢一些,尤其是在特定的情况下,例如在处理高吞吐量的数据时,在某些情况下可能受制于分批处理的架构。Flink通过其流处理模型和不同的调度器和优化器来支持更高效的实时数据处理。 5. 生态系统 Spark有着庞大的生态系统,具有成熟的ML库、图处理库、SQL框架等等。而Flink的生态系统相对较小,但它正在不断地发展壮大。 6. 规模性 Spark Streaming适用于规模小且不太复杂的项目。而Flink可扩展性更好,适用于更大、更复杂的项目。Flink也可以处理无限制的数据流。 综上所述,Spark Streaming和Flink都是流处理引擎,它们有各自的优缺点。在选择使用哪一个流处理引擎时,需要根据实际业务场景和需求进行选择。如果你的业务场景较为复杂,需要处理海量数据并且需要比较灵活的窗口计算支持,那么Flink可能是更好的选择;如果你只需要简单的流处理和一些通用的窗口计算,Spark Streaming是更为简单的选择。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值