笔记
铃音.
如鱼饮水,冷暖自知
展开
-
pandas读取csv文件(分隔符是一个或者多个空格)
如果遇到csv文件不是以逗号分隔,也不是以一个空格分隔,也不是 \t 分隔,里面提到可以修改sep参数为正则表达式来作为分隔符。但是又是有规律的分隔,就像下面这种。也就是说可以这样来读取文件。可以去掉索引,看的更方便。可以修改sep参数为。原创 2023-10-10 10:47:50 · 2139 阅读 · 0 评论 -
使用scp命令失败出错
这些是SCP的一些常见用法示例。请注意,上述命令中的/path/to/local/file和/path/to/remote/file是文件的路径,/path/to/local/directory和/path/to/remote/directory是目录的路径。username是远程服务器的用户名,remote是远程服务器的地址或主机名。SCP(Secure Copy)是一个用于在本地主机和远程服务器之间进行安全文件传输的命令行工具。使用scp命令失败出错,无反应。再次尝试scp命令。原创 2023-09-15 10:15:09 · 2132 阅读 · 0 评论 -
The kernel appears to have died. It will restart automatically.
OMP:提示这意味着OpenMP运行时的多个副本已链接到程序中。最好的做法是确保只有一个OpenMP运行时链接到进程中,例如避免在任何库中静态链接OpenMP运行库。作为一种不安全、不受支持、未记录的解决方法,您可以将环境变量KMP_DUPLICATE_LIB_OK=TRUE设置为允许程序继续执行,但这可能会导致崩溃或无声地产生不正确的结果。有关更多信息,请参阅http://www.intel.com/software/products/support/.查看 anaconda prompt。原创 2023-08-15 14:57:14 · 267 阅读 · 0 评论 -
使用python的cartopy库读取shapefile文件 .shp文件是乱码
打开后只要在左上角位置输入需要的行政区划范围名称,就可以快速获取到该范围的矢量底图数据。提供的获取方式有JSON API,也可以直接下载geojson或者svg格式。使用python 用 这个.json文件生成一个.shp,也就是shapefile文件,并且指定编码,问题即可解决。使用python的cartopy库读取shapefile文件即.shp文件乱码。我在使用python的cartopy库读取shapefile文件时出现了乱码。record的.attributes的[‘name’]都是乱码。原创 2023-04-22 21:36:19 · 1863 阅读 · 3 评论 -
matplotlib设置中文字体为微软雅黑
如何在linux系统下让matplotlib显示中文?“巴西”: [-47.55, -15.47], —1。“坦桑尼亚”: [35.45, -6.08], —1。“罗马尼亚”: [26.10, 44.27], —1。“意大利”: [12.29, 41.54], —1。“俄罗斯”: [37.35, 55.45], —3。“文莱”: [115.00, 4.52], —1。“美国”: [-77.02, 39.91],—3。“中国”: [116.20, 39.55],在代码中加入以下代码。原创 2023-04-18 09:30:41 · 1033 阅读 · 0 评论 -
Python int too large to convert to C long
报错在用python 的matplotlib库绘制折线图时我报了这个错误Python int too large to convert to C long解决方法win+R然后输入cmd,再输入pip install --upgrade matplotlib然后问题就解决了原创 2022-01-01 10:52:36 · 1259 阅读 · 12 评论 -
python pandas把.npz文件转为xlsx,csv文件
国民经济核算季度数据链接:https://pan.baidu.com/s/1tMwXLWopQ5hKVKAZ2zNRBg 提取码:pqiy我需要一份.xlsx的国民经济季度核算数据,但是在网上只找到了.npz文件,所以用python的pandas模块进行了处理转换为.xlsx文件file = np.load('国民经济核算季度数据.npz',allow_pickle=True)columns = file['columns']values = file['values']from pandas原创 2021-12-29 11:28:07 · 7143 阅读 · 0 评论 -
sqoop报Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient
报错:在执行 sqoop --options-file profileconf2时报Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClientException in thread “main” java.lang.RuntimeException: org.apache.hadoop.hive.ql.metadata.HiveException: java.lang.RuntimeExcept原创 2021-12-04 21:15:06 · 713 阅读 · 0 评论 -
python pandas读取文件夹里的所有csv文件
把读取完的Dataframe合并为一个Dataframe。原创 2021-11-15 20:34:39 · 5188 阅读 · 0 评论 -
Hadoop高可用HA启动顺序
master,slave1,slave2,zookeeper启动cd /usr/zookeeper/zookeeper-3.4.10/bin/zkServer.sh start bin/zkServer.sh statusmaster,slave1,slave2启动 JournalNode 进程cd /usr/hadoop/hadoop-2.7.3sbin/hadoop-daemon.sh start journalnodemaster ,slave1启动守护进程 zkfcsbin/ha原创 2021-11-11 19:33:07 · 2319 阅读 · 0 评论 -
Exception in thread “main“ java.lang.NoClassDefFoundError: org/apache/hadoop/yarn/util/Apps at java
用myeclipse运行Hadoopword count程序时报错Exception in thread "main" java.lang.NoClassDefFoundError: org/apache/hadoop/yarn/util/Apps at java.lang.ClassLoader.defineClass1(Native Method) at java.lang.ClassLoader.defineClass(ClassLoader.java:763) at java.securit原创 2021-11-02 23:35:41 · 1749 阅读 · 1 评论 -
UnicodeDecodeError: ‘utf-8‘ codec can‘t decode byte 0xba in position 45: invalid start byte
在用pip install安装tensorflow包时出现错误Failed building wheel for termcolorUnicodeDecodeError: ‘utf-8’ codec can’t decode byte 0xba in position 45: invalid start byte解决方法找到这个文件夹复制链接打开,删掉这个文件 termcolor.py再删掉与tensorflow有关的文件然后从官网下一下需要的版本网站链接:https://www.lf原创 2021-10-20 23:24:56 · 1218 阅读 · 0 评论 -
解决: Establishing SSL connection without server‘s identity verification is not recommended. Accord
我在slave1上启动hive时一直循环Mon Aug 16 15:47:55 CST 2021 WARN: Establishing SSL connection without server’s identity verification is not recommended. According to MySQL 5.5.45+, 5.6.26+ and 5.7.6+ requirements SSL connection must be established by default if expl原创 2021-08-16 18:58:04 · 1290 阅读 · 0 评论 -
hbase启动后只有主节点有HRegionServer,而从节点没有HRegionServer
我安装完hbase发现只有主节点有HRegionServer,两个从节点一个都没有出现HRegionServer我可是按照教程配的,莫非教程。。。。绝对是我的问题。。。教程怎么会有问题呢,唉。直觉感觉是regionservers文件的问题然后cd /usr/hbase/hbase-1.2.4/conf/发现??我把文件名字写错了所以这里有问题应该是再重新bin/start-hbase.sh启动问题解决了!...原创 2021-08-15 23:31:56 · 3444 阅读 · 4 评论 -
五月学习总结
本月主要学习了Hadoop搭建与使用hive搭建与使用。hadoop3.1.4hive3.1.2mysql8.0.23,在Windows上的数据集中的缺失值hadoop搭建文档分享启动和运行hive的报错(已解决)hive向动态分区插入数据报错(未解决)hive分区表hive分桶表...原创 2021-05-30 12:15:10 · 131 阅读 · 0 评论 -
启动和运行hive时遇到的报错(已解决)
一:报错如下Exception in thread "main" java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)Vat org.apache.hadoop.conf.Configuration.set(Configuration.java:1380)...at org.apache.hadoop.util.Run原创 2021-05-29 18:35:13 · 12388 阅读 · 5 评论 -
数据集中的缺失值
产生原因机械原因:例如数据存储失败,存储器损坏导致数据收集或保存失败人为原因:由于人的主观失误,历史局限或有意隐瞒造成数据缺失处理方法原创 2021-05-29 17:45:51 · 434 阅读 · 0 评论