自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(59)
  • 收藏
  • 关注

原创 安装Flume

(2)修改环境变量并生效。(3)文件复制与配置。

2025-12-25 20:56:45 273

原创 虚拟机的IP地址消失了怎么办?

✅ 核心故障定位network.service启动失败 + RTNETLINK answers: File exists 是 CentOS 静态 IP 下的经典冲突问题,根源是:系统中已有其他进程(如 NetworkManager、dhclient)占用了网卡的 IP / 路由配置,network服务启动时无法重复绑定静态 IP,导致报错。哪怕你配置了ONBOOT=yes,只要有冲突,网卡就会卡在DOWN状态,IP 也无法加载。🚀 一键修复(直接复制执行,1 分钟解决冲突)

2025-12-25 20:31:40 325

原创 任务一- 2.子任务二:Hadoop完全分布式安装配置

本文介绍了Hadoop 3.2.1完全分布式环境的安装配置过程。主要内容包括:1)在主节点解压Hadoop安装包;2)配置6个核心配置文件(hadoop-env.sh、core-site.xml等);3)创建必要的Hadoop数据目录;4)将配置好的Hadoop分发到从节点;5)配置环境变量;6)格式化集群并启动HDFS、YARN和历史服务。文中提供了详细的配置参数说明和操作命令,并展示了通过jps命令验证各节点服务启动情况的结果。该配置实现了2个数据副本,关闭了权限检查,并设置了必要的Web UI访问端口

2025-12-18 08:47:14 1247 1

原创 任务一-1.子任务一:基础环境准备

从本地上传文件到虚拟机使用到软件有Xshell,XFTP,Filezilla,需要主机先去官网下载文件(具体配置及使用参考。下载 JDK(以jdk-8u361-linux-x64.tar.gz为例,需提前从 Oracle 官网或镜像站下载);Hadoop 等分布式框架依赖 Java,需安装 JDK(推荐 JDK 8);2. 将master的配置文件。每个节点都需要安装JDK。(1)上传 JDK 到。

2025-12-18 08:46:28 493

原创 jdk配置完之后java -version还是默认的jdk版本如何更改

jdk安装已经成功,JAVA_HOME、PATH的环境变量也已经在/etc/profile文件下面配置成功,并且配置文件已经生效。

2025-12-15 20:46:03 953

原创 FileZilla连接到虚拟机

摘要: 本文介绍使用FileZilla连接虚拟机的详细步骤。首先确保虚拟机与主机能互相ping通,并关闭双方防火墙。安装FileZilla后,切换虚拟机至root用户,打开软件输入主机IP、用户名及密码完成连接。通过图文展示了安装界面和连接配置过程,帮助用户实现文件传输功能。

2025-12-12 10:47:47 296

原创 04-模块一平台搭建与运维

本文档详细介绍了大数据平台搭建与运维的完整流程。主要内容包括:1)基础环境准备,重点讲解了JDK 8的安装配置、环境变量设置及验证方法;2)Hadoop完全分布式集群的安装配置;3)MySQL、Hive、Flume等组件的安装部署。文档采用分步骤命令行操作方式,配合截图说明,涵盖了软件目录创建、文件解压、环境变量配置等关键环节。后续模块还涉及数据库配置维护、数据获取清洗、统计分析以及可视化等大数据处理全流程任务。每个步骤都提供了详细的操作指南和注意事项,为大数据平台搭建提供了完整的技术参考。

2025-12-01 08:42:48 850

原创 SSH 免密登录的配置是用户隔离的

摘要:SSH免密登录配置具有用户隔离性,root用户的配置不会自动应用于普通用户(如hadoop01)。要在普通用户下实现免密登录,需在该用户下生成密钥对(ssh-keygen),将公钥分发到各节点(ssh-copy-id),并确保.ssh目录权限正确(700)。验证时需以普通用户身份测试登录(ssh hadoop01@hadoop2)。核心原则是SSH配置按用户独立生效,root与普通用户互不影响。

2025-11-28 09:16:45 992

原创 02-集群节点准备:克隆虚拟机

本文介绍了搭建三节点集群环境的详细步骤:1)通过克隆或独立创建三台虚拟机(hadoop01-03);2)永久关闭防火墙(systemctl stop/disable firewalld);3)检查并配置SSH服务;4)为每台虚拟机生成新MAC地址并修改IP(需确保同网段互通);5)分别设置主机名;6)重启网络服务验证配置。最终要求三节点能互相ping通、SSH可远程登录且防火墙处于关闭状态。文中包含具体命令和操作截图,适用于单机克隆或多主机协作的集群搭建场景。

2025-11-27 11:38:19 377

原创 4.子任务四:Hive 安装配置

(1) 将Hive 3.1.2的安装包解压到/root/software目录下;(2) 在“/etc/profile”文件中配置Hive环境变量HIVE_HOME和PATH的值,并让配置文件立即生效;(3) 查看Hive版本,检测Hive环境变量是否设置成功;(4) 切换到目录下,将hive-env.sh.template文件复制一份并重命名为hive-env.sh;

2025-11-12 23:21:19 909

原创 安装MySQL

3.子任务三:MySQL 安装配置只在master节点操作。

2025-11-10 11:29:15 571

原创 搭建hadoop集群

完成虚拟机环境(网络配置、免密登录、JDK 安装)后,下一步确实可以开始搭建 Hadoop 集群了。Hadoop 集群的搭建、部署与管理需要按步骤推进,以下是详细流程和关键操作,帮助你顺利完成.

2025-11-04 16:15:40 930

原创 03-虚拟机之间配置免密登录(CentOS)

本文详细介绍了在多节点Hadoop集群中配置SSH免密登录的步骤。首先确保三台虚拟机(node1、node2、node3)IP固定且能互相通信,并在/etc/hosts中正确映射主机名。然后分别在每个节点生成RSA密钥对,推荐采用"合并后分发"方式:先在node1合并所有公钥到authorized_keys文件,再分发到其他节点。若非root用户操作需额外修复文件权限(chmod 700 ~/.ssh和600 authorized_keys)。最后通过节点间SSH互连测试验证配置,成功则

2025-10-27 20:23:08 678

原创 搭建虚拟机完全分布式(Centos)

在搭建完全分布式集群前,通常需要先在一台基础节点(可作为主节点或模板节点) 上完成基础环境配置,后续再通过克隆或批量操作同步到其他节点。

2025-10-24 16:58:42 974

原创 01-安装VMware & 虚拟机 超详细一篇就够

本文详细介绍了VMware虚拟机的安装及CentOS 7系统的配置过程。安装时需加载ISO镜像,选择中文语言和时区设置。整个过程包含大量图文指引,帮助用户顺利完成虚拟化环境的搭建和Linux系统的安装。

2025-10-11 16:56:19 1497

原创 学习率调整

这个函数根据训练周期动态调整学习率,先进行线性预热,然后使用余弦退火策略。这样可以在初期稳定模型的训练,避免较大学习率带来的不稳定性,并在后期逐渐减小学习率,提高模型的收敛效果。,则使用余弦退火函数来调整学习率。线性增加,从 0 增加到初始学习率。

2024-06-01 16:47:01 1134 1

原创 代码随想录刷题

刷题记录

2024-03-27 17:53:07 396

原创 实习总结2023.9.21=2024.3.8

广中医实习总结

2024-03-08 17:05:58 886

原创 【无标题】

【代码】【无标题】

2024-03-06 17:49:55 326

原创 图片文件重新从1.jpg开始改名

【代码】图片文件重新从1.jpg开始改名。

2024-03-01 10:23:18 367

原创 将图片和对应的标签文文件重新命名

【代码】将图片和对应的标签文文件重新命名。

2024-01-08 16:50:41 654

原创 服务器代码上传到gitlab

服务器代码上传到gitlab

2023-12-25 17:09:16 940

原创 阅读代码的记录

如何阅读代码

2023-12-14 11:29:53 275

原创 计算权重文件参数量和大小

【代码】计算权重文件参数量和大小。

2023-12-12 14:40:50 1084

原创 windows下分卷解压文件

Windows下分卷解压文件

2023-12-10 16:09:55 568

原创 划分数据集用于yolov8训练

划分数据集用于yolov8训练 验证

2023-12-07 21:52:21 1131

原创 将jpg图片和txt标签文件重新命名

。将文件夹里面的jpg图片重新命名。

2023-12-07 21:40:41 332

原创 json转yolo格式,json转boxes(x1, y1, x2, y2)格式

json格式转yolo数据格式用于训练yolojson格式转(x1,y1, x2,y2)格式

2023-12-07 21:31:20 2079

原创 【无标题】

python读入图片

2023-11-03 11:39:24 146

原创 Linux常用命令

grep(global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来) 是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。这个命令,可以优先指定这个GPU,使用第0个GPU(代码中的其他地方不能指定其他的cuda设备)会报错。查看CPU信息:grep CPU /proc/cpuinfo。在运行python代码的时候,在编译器之前加入。Linux中 / 表示根目录。

2023-10-19 17:48:02 193

原创 经过卷积神经网络之后的图片的尺寸如何计算

经过卷积神经网络之后的图片的尺寸如何计算

2023-08-27 19:57:40 1361

原创 【无标题】

Linux知识-学习笔记

2023-06-15 12:32:28 723

原创 快速搞定学术论文中的三线表

(1)能够掌握相关的关键信息,获取表格的条件,包括实验条件,理论条件,参数选取等。(2)能够完全复现图片,或表格中显示的每一个结果。(3)可以再次提及,获得每一个结果或每一组结果所需要的条件和变量。因此在进行学术论文撰写时,有效的实验表格当然是必不可少的,它可以使得文章篇幅更加紧凑、论述更加清晰。本次分享了如何快速搞定学术论文中的三线表,喜欢的话可以关注我的CSDN,后续将推出更多的写作技巧。在制作图表时需要仔细考虑并合理选择最适合的方式:思考研究结果中最重要的方面,设计表现方式。(记录论文写作的作业)

2023-04-26 22:16:57 2015

原创 线性分类器

线性分类器,L0,L,L2正则化,权重更新,梯度下降

2023-03-26 16:37:29 776

原创 机器学习、深度学习中的数学

神经网络数学知识

2023-03-14 16:39:46 413

原创 神经网络常识

神经网络常识

2023-03-14 16:35:10 1241

原创 服务器后台运行python程序

服务器后台运行python程序-python常用命令

2023-03-10 16:20:20 3237 4

原创 机器学习中的L0、L、L2正则化详解

机器学习中的L0、L、L2正则化

2023-03-09 16:08:02 288

原创 快来看,我让chatGPT帮我写代码了!!!

快来看,我让chatGPT帮我写代码了!!!

2023-02-26 17:15:55 8406 2

原创 python神经网络编程chap02

python神经网络编程,mnist数据集手写体识别,python手动编写神经网络

2022-12-24 10:34:26 782

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除