环境搭建
文章平均质量分 92
我是女孩
这个作者很懒,什么都没留下…
展开
-
mac conda安装
首先激活这个虚拟环境conda activate my_station,之后执行conda env export命令即可看到环境的相关配置。这里可以重定向输出流,例如conda env export > my_station_config.yml即可在当前目录下创建一个名叫my_station_config.yml的文件。当他人获得这个文件之后,执行conda env create -f my_station_config.yml就可以得到一模一样的环境了。星号表示当前所在的环境。例如现在要与他人分享。原创 2022-10-11 15:51:38 · 6375 阅读 · 0 评论 -
Uber开发的地图网格化的包h3
这里写自定义目录标题经纬度转h3地址h3地址获取对应六边形的中心经纬度转h3地址from h3.h3 import geo_to_h3h3no = geo_to_h3(21.529882,110.728265,6)输出86410942fffffffh3地址获取对应六边形的中心from h3.h3 import geo_to_h3h3no = geo_to_h3(21.529882...原创 2020-03-26 19:09:22 · 5045 阅读 · 4 评论 -
Mac下安装lightgbm-image not found 快速安装brew
1. 修改镜像源,安装brew一、获取 install 文件把官网给的脚本拿下来curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install >> brew_install二、更改脚本中的资源链接这里我替换成清华大学的镜像,修改如下两句:BREW_REPO = “h...原创 2019-12-02 20:32:27 · 192 阅读 · 0 评论 -
mac 安装python ,pip 开发环境
1. mac安装pythonhttps://blog.csdn.net/xuanlv_haoshao/article/details/82316766mac 安装pipcurl https://bootstrap.pypa.io/get-pip.py | python3安装完后,查看版本pip --version>>> import sys>...原创 2019-11-25 11:06:16 · 370 阅读 · 0 评论 -
hadoop3节点集群安装,spark集群安装
一 : 修改机器名1. 修改3台机器的机器名,注意名字不要带下划线修改机器名命令:hostnamectl set-hostname xxxx然后退出shell重新登陆修改3台机器的hosts文件vim /etc/hosts添加以下内容192.107.53.157 hadoop-master192.107.53.158 hadoop-slave1192.107.53...原创 2018-07-02 17:40:40 · 1656 阅读 · 0 评论 -
Linux系统中KafKa安装和使用方法 java客户端连接kafka
1 下载并安装kafka# tar zxvf kafka_2.12-1.1.0tgz # mv kafka_2.12-1.1.0 /usr/local/kafka# cd /usr/local/kafka2 启动服务运行kafka需要使用Zookeeper,所以需要先启动一个Zookeeper服务器,如果没有Zookeeper,可以使用kafka自带打包和配置好的Zookeeper,&...原创 2018-05-31 20:57:29 · 9319 阅读 · 0 评论 -
hadoop单机,伪分布式,完全分布式搭建
1.1、单机模式(独立模式)(Local或Standalone Mode) -默认情况下,Hadoop即处于该模式,用于开发和调式。 -不对配置文件进行修改。 -使用本地文件系统,而不是分布式文件系统。 -Hadoop不会启动NameNode、DataNode、JobTracker、TaskTracker等守护进程,Map()和Reduce()任务作为同一个进程的不同部分来执行的。 -...原创 2018-05-27 23:00:29 · 384 阅读 · 0 评论 -
ubuntu环境搭建spark集群
参考主文档https://www.cnblogs.com/purstar/p/6293605.htmlyarn 集群https://blog.csdn.net/u010638969/article/details/51283216关于VMWare虚拟机下搭建hadoop集群练习各虚拟机间无法ping通主机名的问题https://blog.csdn.net/huayuci/article/detai...原创 2018-05-27 22:59:21 · 600 阅读 · 0 评论 -
Hadoop,Spark,Hbase单机安装
SparkHiveContext和直接Spark读取hdfs上文件然后再分析效果区别直接Spark读取hdfs上文件然后再分析快20倍https://www.cnblogs.com/Kaivenblog/p/7777596.hthadoop-hbase-spark单机版安装https://www.cnblogs.com/jixiangxiang/p/5520851.htmlSSH的详细安装步骤及登...原创 2018-06-04 09:41:14 · 625 阅读 · 0 评论 -
spark 调用saveAsTextFile 报错NullPointerException
如果本地已经安装了hadoop 一般不会有此问题 如果不愿安装 可按照下述方法解决参考文献https://blog.csdn.net/ydc321/article/details/523511511)下载需要的文件 winutils.exehttp://social.msdn.microsoft.com/Forums/windowsazure/en-US/28a57efb-082b-424b-8d...转载 2018-04-09 17:06:22 · 1469 阅读 · 0 评论 -
ubuntu环境下安装spark(hadoop单机)
Ubuntu 安装Spark参考主流程文献http://blog.csdn.net/u010171031/article/details/518495621. java jdk安装jdk.用到vim。安装vim,安装过程中遇到的问题Ubuntu安装vim显示没有可用的软件包vim-gtk解决方法:(连网前提下)步骤一:在终端输入命令:sudo apt-get update && s...原创 2018-03-21 23:23:24 · 384 阅读 · 0 评论 -
Ubuntu 16.04常用快捷键(转)
Alt + Tab 切换应用程序2018-03-18 23:39:03 · 899 阅读 · 0 评论 -
win7装虚拟机(VMware,ubantu)
重要安装文档参考 1. vmware 安装ubantu http://blog.csdn.net/u013142781/article/details/50529030 2. cpu虚拟化设置 https://www.windows10.pro/vmware-binary-conversion-is-incompatible-with-th...原创 2017-01-16 22:11:41 · 327 阅读 · 0 评论