学习记录
文章平均质量分 59
pyml_kdl
这个作者很懒,什么都没留下…
展开
-
Hadoop笔记
内容来源菜鸟教程概念理解Hadoop 整体设计Hadoop 框架是用于计算机集群大数据处理的框架,所以它必须是一个可以部署在多台计算机上的软件。部署了 Hadoop 软件的主机之间通过套接字 (网络) 进行通讯。Hadoop 主要包含 HDFS 和 MapReduce 两大组件,HDFS 负责分布储存数据,MapReduce 负责对数据进行映射、规约处理,并汇总处理结果。Hadoop 框架最根本的原理就是利用大量的计算机同时运算来加快大量数据的处理速度。例如,一个搜索引擎公司要从上万亿条没有进行规原创 2021-05-07 11:30:29 · 308 阅读 · 0 评论 -
python 使用Hbase
# coding=utf-8"""依赖:thrift,happybase注意×××:启动hbase thrift start-port:9090"""import happybase# 创建连接 默认端口9090 table_prefix命名空间,不同命名空间互不影响connection = happybase.Connection("10.198.192.76",table_prefix="lyj")# connection = happybase.Connection("10.198原创 2021-03-12 22:15:19 · 272 阅读 · 0 评论 -
python操作HDFS
依赖库:pip install hdfsfrom hdfs.client import Client,InsecureClient# Insecure 可以解决dr.who权限问题# client = InsecureClient('http://172.17.0.2:9870',user='hadoop')# client = Client('http://172.17.0.2:9870',proxy='hadoop')# docker 集群# client = Client('http:原创 2021-03-12 22:13:28 · 648 阅读 · 0 评论 -
MYSQL数据库锁与数据隔离级别
本文摘自https://bbs.csdn.net/topics/300049690/中的回答数据库锁为什么引入数据库锁多个用户同时对数据库的并发操作时会带来以下数据不一致的问题:丢失更新A,B两个用户读同一数据并进行修改,其中一个用户的修改结果破坏了另一个修改的结果,比如订票系统脏读A用户修改了数据,随后B用户又读出该数据,但A用户因为某些原因取消了对数据的修改,数据恢复原值,此时B得到的数据就与数据库内的数据产生了不一致不可重复读A用户读取数据,随后B用户读出该数据并修改,此时A用户再读转载 2021-03-08 23:24:05 · 410 阅读 · 0 评论 -
python使用redis
模块原文链接: link.pip install redisedis 提供两个类 Redis 和 StrictRedis, StrictRedis 用于实现大部分官方的命令,Redis 是 StrictRedis 的子类,用于向后兼用旧版本。redis 取出的结果默认是字节,我们可以设定 decode_responses=True 改成字符串。import redis # 导入redis 模块r = redis.Redis(host='localhost', port=6379, dec转载 2021-01-24 00:30:19 · 102 阅读 · 0 评论 -
python多线程+线程池+线程定时器
多线程资料来源链接: 菜鸟教程.Python中使用线程有两种方式:函数或者用类来包装线程对象。函数式:调用 _thread 模块中的start_new_thread()函数来产生新线程。语法如下:_thread.start_new_thread ( function, args[, kwargs] )参数说明:function - 线程函数。args - 传递给线程函数的参数,他必须是个tuple类型。kwargs - 可选参数。示例import _threadimport time转载 2021-01-24 00:21:21 · 2068 阅读 · 0 评论 -
nohup 运行python
指定输出日志到my.lognohup python my.py >> /usr/local/python/xxf/my.log 2>&1 &不要输出nohup tomcat.sh > /dev/null 2>&1 &二.nohup命令nohup指不断地运行,是no hang up的缩写,指不间断,不挂断。运行一个进程的时候,不想让其在你退出账号时关闭,即可用nohup。nohup在不规定的情况下,所以输出内容会到nohup.out中转载 2020-05-15 10:01:24 · 396 阅读 · 0 评论 -
GEOS安装出错
geos 3.3版本解决方案:换一个高版本原创 2019-11-28 11:02:01 · 1361 阅读 · 0 评论 -
气象术语
cape — 对流有效位能原创 2019-05-05 11:50:32 · 1187 阅读 · 0 评论 -
python 常用文件操作
分离路径和文件名:os.path.split()区分文件的名字和后缀:os.path.splitext()遍历文件夹os.listdir()原创 2019-04-22 14:45:13 · 318 阅读 · 0 评论 -
matplatlib 设置坐标轴标签的位置
plt.ylabel(‘Temperature’,position=(1,1))原创 2019-03-21 16:55:00 · 1933 阅读 · 0 评论 -
basemap读shp文件的编码错误
报错如下:找到源码修改如下原创 2019-03-08 15:20:06 · 2168 阅读 · 0 评论 -
给代码添加日志
生成日志的py文件# coding=utf-8import sys,osimport time,datetimeimport loggingfrom logging.handlers import TimedRotatingFileHandlerlog_file='predict_area.log'# 初始日志,用于记录日志def initlog(): logger = ...转载 2019-02-13 11:54:19 · 1944 阅读 · 0 评论 -
python json.dumps中文乱码
json.dumps在默认情况下,对于非ascii字符生成的是相对应的字符编码,而非原始字符,例如:import jsonjs = json.loads(’{“haha”: “哈哈”}’)print json.dumps(js){“name”: “\u54c8\u54c8”}解决办法很简单:print json.dumps(js, ensure_ascii=False...转载 2019-02-13 11:43:54 · 2798 阅读 · 0 评论 -
useradd 没有用户目录
mkdir /home/usernamechown -R username/home/username原创 2018-12-30 18:45:21 · 639 阅读 · 0 评论 -
Django初始配置
Django 项目的初始化配置settings.pyDEBUG = True ALLOWED_HOSTS = ['*']INSTALLED_APPS = [ 'django.contrib.admin', 'django.contrib.auth', 'django.contrib.contenttypes', 'django.contrib.sessi...原创 2018-12-10 23:24:30 · 152 阅读 · 0 评论