python
打卤
不会前端的运维,不是好DBA
展开
-
Python 获取上个月的第一天和最后一天
获取上个月1 号的年月日#获取上个月最后一天的的年月日#获取到上个月的月份#获取到上个月的最后一天。原创 2023-11-23 11:39:30 · 847 阅读 · 0 评论 -
将python 2.6 升级到 2.7,及pip安装
由于CentOS6 自带python版本为2.6.6,实际中使用的大多为2.7.x版本。于是手动升级。查看python的版本#python -VPython 2.6.6安装依赖yum install zlib zlib-devel openssl-devel -y1.下载Python-2.7.6#wget https://www.python.org/ftp/python/2.7....转载 2019-05-28 16:08:20 · 1202 阅读 · 0 评论 -
用clickhouse同步mysql数据
业务场景,写个自动任务定时把mysql的数据同步clickhouse,利用clickhouse的高速查询来做大数据准备实现原理,查询当前clickhouse的数据id,拉取mysql大于此id的数据,再插入到clickhouseimport pymysqlfrom clickhouse_driver import Clientclick_client = Client("host", "...原创 2019-06-13 13:29:44 · 9139 阅读 · 1 评论 -
python3:解析分析日志中的URL并提取想要的key-value
需求:处理前.log,有记录url的请求参数,需要找出想要参数对应的值,并保存到文件import urllib.parsedalu=open("处理后.log","w+",encoding='UTF-8')try: file=open("处理前.log","r",encoding='UTF-8') for i in file: query = dict(ur...原创 2019-06-23 13:32:45 · 1455 阅读 · 0 评论 -
python3-使用正则对日志进行提取
日志样板(test.log):[2019-07-14 00:04:31][/data/www/php/test.php][452][dalu]{"appid":421,"shop_id":"1060343","page":"index"}[2019-07-14 00:24:02][/data/www/php/test.php][452][dalu]{"appid":420,"shop_id":...原创 2019-07-15 15:12:23 · 1808 阅读 · 0 评论 -
python3-通过连接池+配置文件,连接mysql
为啥用连接池:在创建数据库对象的时候被执行。之后每次去执行sql的时候,不需要去创建连接池,只需要每次执行sql前去执行连接方法_Getconnect,sql执行完毕,去关闭连接,连接被数据库连接池给回收。为啥用配置文件:当很多项目都需要连接各种线上数据库,当数据修改时只需要改配置文件即可。目录结构db.ini 为mysql的配置文件[test1]host = 192.168.1.40...原创 2019-07-01 11:13:41 · 2452 阅读 · 0 评论 -
python3-logging日志封装
一个完整的程序离不开日志,无论是开发阶段,还是测试阶段,亦或程序运行阶段,都可以通过日志查看程序的运行情况,或是定位问题。下面是对 python3 的日志库 logging 进行了封装,对于大部分的需求应该是能满足的。程序结构:|--logger.py||--singleton.py||--demo.py||--log| || 2019-07-01.loglo...转载 2019-07-01 14:20:39 · 2367 阅读 · 0 评论 -
python3-遍历字典替换对应的values
dic={'id': '102', 'time': 1563262149, 'name': ' 打卤', 'shop': ' 1'}for k in dic: if dic[k] == "102" : dic[k] = "105" print (u"替换了:",k,"对应的values") print (k, dic[k])...原创 2019-07-18 14:32:34 · 8592 阅读 · 0 评论 -
python3-钉钉机器人发送钉钉消息
由于各种消息调用,官方只提供Java语言的封装,平时使用Python比较多,为了更方便平时自动化项目的使用,周末花了点时间用Python语言对各种消息类型进行了一一封装,代码已开源在GitHub上,同时也上传了PyPI。1、项目源码地址如下:DingtalkChatbot2、安装命令如下:pip install DingtalkChatbot简易使用方法from dingtalkcha...原创 2019-07-18 16:23:46 · 3592 阅读 · 1 评论 -
python3-使用正则对日志进行提取(续:提取字典取值)
日志样板(test.log):[2019-07-14 00:04:31][/data/www/php/test.php][452][dalu]{"appid":421,"shop_id":"1060343","page":"index"}[2019-07-14 00:24:02][/data/www/php/test.php][452][dalu]{"appid":420,"shop_id"...原创 2019-07-17 16:46:15 · 1402 阅读 · 0 评论 -
python3利用pyinotify实现把日志实时写入数据库或用于监控error告警
安装库pyinotifypip3 install pyinotify先使用pyinotify实现一个tail -f 的功能:(来来实时提取日志)```import pyinotifyimport timeimport osimport sysclass ProcessTransientFile(pyinotify.ProcessEvent): def process_...原创 2019-07-30 15:59:57 · 2563 阅读 · 1 评论 -
用pandas获取clickhouse数据写入Excel的一个例子
from clickhouse_driver import Clientimport pandas as pddef export_excel(): #链接clickhouse获取数据转换成DataFrame click_client = Client("192.168.1.71", "9000", "bi", "default", "") sql = 'selec...原创 2019-08-05 11:31:02 · 2345 阅读 · 1 评论 -
python3创建文件夹、路径模块
# -*- coding: utf-8 -*-import osimport timeclass create_path: #windows path = 'F:\\桌面\\dalu\\' #linux #path='/root/dalu/' def mkdir(self): files = 'report'+ time.strftime...原创 2019-08-05 11:35:11 · 1712 阅读 · 0 评论 -
python3通过qq邮箱发送邮件以及附件
1.开启qq邮箱的smtp服务代码:import smtplibfrom email.mime.text import MIMETextfrom email.mime.multipart import MIMEMultipartdef Mailer(to_list,th1=None,Subject=None,unipath=None): mail_host = 'smtp....原创 2019-08-05 15:20:25 · 814 阅读 · 0 评论 -
flask-文件上传分发工具
发布需要用flask写了一个简陋的文件上传分发工具功能手动上传文件,发送到指定服务器的目标目录环境 python2+flask目录结构Sample.py# coding:utf-8from flask import Flask, render_template,request,redirect,url_forfrom werkzeug.utils import secure_fi...原创 2019-03-20 14:43:19 · 660 阅读 · 0 评论 -
python3--从数据库导数据,写到excel文件里
1、导入如下的模块,没有的话需要安装import pymysql #mysql连接模块import xlwt #写excel的第三方库import pymysql,xlwtdef export_excel(table_name): import pymysql host, user, passwd, db = '192.168.1.11', 'root', '**', '...原创 2019-05-10 16:50:29 · 978 阅读 · 0 评论 -
python2-监控多目录error错误日志,实时发送到指定钉钉群(版本3)
通过自动任务执行监控sh文件,通过python常链接日志文件发送到钉钉自动任务1 0 * * * /root/linan/alarm/alarmd.sh stop > /dev/null 2>&1 & #每分钟检查一次*/1 * * * * /root/linan/alarm/alarmd.sh start > /dev/null 2>&am...原创 2019-04-24 11:02:36 · 397 阅读 · 0 评论 -
安装centos6下python2.6的MySQL-python与svn客户端环境
yum install gcc python-crypto python-paramiko python-devel -yyum install MySQL-python -yyum install -y mysql-devel python-devel python-setuptoolsyum install subversion -y原创 2018-11-21 10:09:51 · 504 阅读 · 0 评论 -
Python 定时同步远程数据库的某个表中数据到另一个数据库的某个表(版本1)
话不多直接上脚本,新手写法-还请指点#-*- coding: utf-8 -*-import pymysql#根据id同步,获取本地最大IDdef loacl(): db =pymysql.connect(‘127.0.0.1’','root','PASSWORD','DETABASES',charset='utf8') cursor = db.cursor() ...原创 2018-11-19 18:05:17 · 4883 阅读 · 0 评论 -
python2-监控error日志,实时发送到钉钉
原理用python常链接一个日志文件,每当有新的内容写入,就通过钉钉机器人转发到群里#!/usr/bin/python#-*- coding: utf-8 -*import urllib, urllib2, jsonimport sys, shutil, os, string, datetime,timeserverip="服务器IP"name="日志名"timenow=date...原创 2018-11-27 18:10:11 · 1091 阅读 · 0 评论 -
python脚本-查询目录下的备份压缩包,选择执行回滚
需求是目录下很多zip,一键查询有哪些zip后,选择后直接解压到要恢复的目录。#-*- coding: utf-8 -*-import osimport commands(status ,dir) =commands.getstatusoutput( "ls -l /data/bak |grep ^- | awk '{print $9}'")seq = dir.strip('\n')...原创 2018-12-03 17:12:11 · 180 阅读 · 0 评论 -
python-crontab自动任务执行python脚本中的shell命令
在crongtab -e 中 添加以下,原因环境变量问题LANG=zh_CN.UTF-8SHELL=/bin/bashPATH=/bin:/usr/bin:/usr/local/bin:/usr/sbin* * 1 * * python 123.py原创 2018-12-06 16:01:28 · 1762 阅读 · 0 评论 -
Python总结-学习方向和方法
目录前言... 2(一)如何学习Python. 2(二)一些Python免费课程推荐... 3(三)Python爬虫需要哪些知识?... 4(四)Python爬虫进阶... 6(五)Python爬虫面试指南... 7(六)推荐一些不错的Python博客... 8(七)Python如何进阶... 9(八)Python爬虫入门... 10(九)Python开发微...原创 2018-12-11 09:13:30 · 2062 阅读 · 0 评论 -
shell脚本--一键安装python3+pip
#!/bin/bashyum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-develwget https://www.python.org/ftp/python/3.6.1/Python-3.6.1.tgztar vxf Python-3.6.1.tgzcd Python-3.6.1./conf...原创 2018-12-19 09:04:53 · 2169 阅读 · 0 评论 -
python-使用wxpy通过微信发警报error消息
参考文档https://wxpy.readthedocs.io/zh/latest/index.html#环境python3.4-3.6,pip安装wxpypip3.6 install -U wxpy -i “https://pypi.doubanio.com/simple/”#!/usr/bin/python# -*- coding: utf-8 -*import urlli...原创 2018-12-19 09:14:19 · 1458 阅读 · 0 评论 -
centos-python3源码安装pysvn
yum安装系统会自动安装到python2环境下。下载地址:http://pysvn.barrys-emacs.org/下载1.8,1.9要求svn版本太高,一般不兼容。#下载wget http://pysvn.barrys-emacs.org/source_kits/pysvn-1.8.0.tar.gz#安装svn客户端yum install subversion -y#安装依赖y...原创 2019-01-11 10:18:36 · 1339 阅读 · 0 评论 -
利用pysvn 获取SVN的一些相关信息
yum install pysvn -y#coding=utf-8import pysvnimport datetimeclient = pysvn.Client()entry = client.info('本地代码库项目路径')print u'SVN路径:',entry.urlprint u'最新版本:',entry.commit_revision.numberprint u...原创 2019-01-02 10:11:09 · 3472 阅读 · 1 评论 -
python脚本--用企业微信实现发送信息
#!/usr/bin/python# -*- coding: utf-8 -*-import timeimport requestsimport json,osclass WeChat_SMS: def __init__(self): self.CORPID = 'XXXX'#企业ID, 登陆企业微信,在我的企业-->企业信息里查看 s...原创 2019-01-08 16:03:50 · 9027 阅读 · 0 评论 -
python2-监控error错误日志,实时发送到钉钉(版本2)
这一版是写了个方法,把要监控的日志当成变量传一下 就开启监控日志内容了。实现实时警报。运行nohup python /root/error.py 日志路径 &以下是error.py内容#!/usr/bin/python# -*- coding: utf-8 -*import urllibimport urllib2import jsonimport sys, shu...原创 2019-01-23 15:13:11 · 1370 阅读 · 0 评论 -
Python 定时同步远程数据库的某个表中数据到另一个数据库的某个表(版本2)
通过记录最后更新ID来去获取新数据同步MYSQL# -*- coding: utf-8 -*-import pymysqlimport sys#用自动任务的坑,不加这个自动任务跑不起,坑了我好久哇。reload(sys)sys.setdefaultencoding('utf8')#第一步打开本地ID记录文本record_id =open('test1.txt', 'r+')...原创 2018-11-20 16:01:15 · 4514 阅读 · 0 评论