自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(14)
  • 收藏
  • 关注

原创 ubuntu16.04耳机没有声音

#sudo apt install pavucontrol #输入下面命令安装pavucontrol #pavucontrol #打开pavucontrol 打开选项卡后进行:"回放"-->系统下面的选项-->内置音频模拟立体声"输出设备"-->port:headphone(unplugged) 模拟耳机...

2019-04-25 14:45:55 218

原创 ubuntu安装mysql,及常见问题解决

一.ubuntu安装mysqlsudo apt-get install mysql-server sudo apt-get install mysql-client sudo apt-get install libmysqlclient-devtips:安装中提示输入密码,若不输密码,会出现(二)中错误。 sudo netstat -tap | grep mysql #若mysq...

2019-04-10 09:58:56 378

翻译 python(pymysql)之mysql简单操作

一、mysql简单介绍  说到数据库,我们大多想到的是关系型数据库,比如 mysql、oracle、sqlserver等等,这些数据库软件在windows上安装都非常的方便,在Linux上如果要安装数据库,咱不得不首先 推荐的是mysql数据库了,而且Mysql数据库的第一个版本就是发行在Linux系统上的。MySQL是一个关系型数据库管理系统,由瑞典 MySQL AB公司开发,目前属于O...

2019-04-02 14:28:51 1991

原创 Mysql失败,异常 InternalError: (1366, u"Incorrect string value: '\\xF0\\x9F\\x90\\

插入Mysql时失败了,python代码报如下异常: InternalError: (1366, u"Incorrect string value: '\\xF0\\x9F\\x90\\x98\\xE8\\ ......解析:UTF-8编码有可能是两个、三个、四个字节。Emoji表情是4个字节,而Mysql的utf8编码最多3个字节,所以数据插不 进去。解决方案就是:将My...

2019-03-29 13:14:30 384

转载 python中yield的用法详解——最简单,最清晰的解释

首先,如果你还没有对yield有个初步分认识,那么你先把yield看做“return”,这个是直观的,它首先是个return,普通的return是什么意思,就是在程序中返回某个值,返回之后程序就不再往下运行了。看做return之后再把它看做一个是生成器(generator)的一部分(带yield的函数才是真正的迭代器),好了,如果你对这些不明白的话,那先把yield看做return,然后直接看下面...

2019-02-21 13:08:59 176

转载 SparkStreaming集成Kafka的几个重要参数

使用SparkStreaming集成kafka时有几个比较重要的参数:(1)spark.streaming.stopGracefullyOnShutdown (true / false)默认fasle确保在kill任务时,能够处理完最后一批数据,再关闭程序,不会发生强制kill导致数据处理中断,没处理完的数据丢失(2)spark.streaming.backpressure.enabl...

2019-02-18 16:10:04 302

转载 spark task调优

spark集群任务执行过慢。通过运行过程来看,我们发现task比较多,更值得注意的是这些task都在一个stage之中。task和stage的关系,如下图: 通过这个图我们可以看出job-stage-task的对应关系。首先job是通过action操作来划分,然后经过sparkcontext的runjob方法来到DAGscheduler,这个类中它会通过依赖关系划分出stage,一...

2019-02-18 14:07:58 720

原创 Unable to read additional data from client sessionid 0x0, likely client has closed socket

kafka运行两天莫名断掉,查看kafka,zookeeper日志,发现错误:WARN caught end of stream exception (org.apache.zookeeper.server.NIOServerCnxn)EndOfStreamException: Unable to read additional data from client sessionid 0x167...

2019-01-21 15:46:16 4823

原创 下载hdfs文件hdfs.util.HdfsError: No active nodes contain this block

查看hdfs文件情况,并将损坏文件删除:hadoop fsck /hadoop fsck -delete

2018-12-25 20:24:15 1597 2

原创 java.lang.ClassNotFoundException: org.apache.spark.streaming.kafka.KafkaRDDP

单机运行不报错,集群模式报错:因为本地单机配置了spark/conf/spark-env.shexport SPARK_DIST_CLASSPATH=$(/usr/local/hadoop/bin/hadoop classpath):/usr/local/spark/examples/jars/*:/usr/local/spark/jars/kafka/*:/usr/local/kafka...

2018-12-25 20:13:14 2485

原创 本地kafka开启,zookeeper一直报错

总结各种可能的解决方案:1.删除/tmp目录下的kafka和zookeeper日志2.康老师改了部分配置:cd /usr/local/kafka/config vim zookeeper.properties修改:dataDir=/usr/local/kafka/data vim server.properties修改:log.dirs=/usr/loc...

2018-11-27 18:43:19 939

原创 Hadoop集群开启部分slave的datanode未开启

cd /usr/local/hadoop/etc/hadoop/vim hdfs-site.xml可以看到,下面的两个目录:/usr/local/hadoop/tmp/dfs/name和/usr/local/hadoop/tmp/dfs/data,(最好建在其他地方):<configuration>    <property>        <na...

2018-11-27 18:35:24 697

原创 (spark消费kafka有jar包冲突)java.lang.NoSuchMethodError: net.jpountz.lz4.LZ4BlockInputStream.

 Spark 消费kafka时,抛出异常“java.lang.NoSuchMethodError: net.jpountz.lz4.LZ4BlockInputStream.<init>(Ljava/io/InputStream;Z)Vat原因:应用在执行时对数据解码(反序列化)时,使用了默认的lz4解压缩算法,在spark-core中依赖的lz4版本是1.4,而kafka-...

2018-11-24 15:05:39 2270

转载 在ubuntu17.0下安装最新版QQ教程

使用的方式是通过wine这一强大的工具,wine是什么就自行百度啦,我也是近期接触linux具体教程: 1.安装wine 首先ctrl+alt+T打开终端 进行如下三条指令sudo add-apt-repository ppa:wine/wine-buildssudo apt-get updatesudo apt-get install winehq-devel此时可能会有错误:apt-get...

2018-04-08 13:18:10 782

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除