Mysql环境:
MySQL
一、概述
什么是数据库 ?
答:数据的仓库,如:在ATM的示例中我们创建了一个 db 目录,称其为数据库
什么是 MySQL、Oracle、SQLite、Access、MS SQL Server等 ?
答:他们均是一个软件,都有两个主要的功能:
a. 将数据保存到文件或内存
b. 接收特定的命令,然后对文件进行相应的操作
PS:如果有了以上软件,无须自己再去创建文件和文件夹,而是直接传递 命令 给上述软件,让其来进行文件操作,他们统称为数据库管理系统(DBMS,Database Management System)
什么是SQL ?
答:上述提到MySQL等软件可以接受命令,并做出相应的操作,由于命令中可以包含删除文件、获取文件内容等众多操作,对于编写的命令就是是SQL语句。SQL,是结构化语言(Structured Query Language)的缩写,SQL是一种专门用来与数据库通信的语言。
二、下载安装
MySQL是一个关系型数据库管理系统,由瑞典MySQL AB 公司开发,目前属于 Oracle 旗下公司。MySQL 最流行的关系型数据库管理系统,在 WEB 应用方面MySQL是最好的 RDBMS (Relational Database Management System,关系数据库管理系统) 应用软件之一。
想要使用MySQL来存储并操作数据,则需要做几件事情:
a. 安装MySQL服务端
b. 安装MySQL客户端
b. 【客户端】连接【服务端】
c. 【客户端】发送命令给【服务端MySQL】服务的接受命令并执行相应操作(增删改查等)
下载
http://dev.mysql.com/downloads/mysql/安装
windows:
点点点
Linux:
yum install mysql-server
ubuntu:
apt-get install mysql-serve
三、数据库操作
1、显示数据
SHOW DATABASES;
默认数据库:
mysql - 用户权限相关数据
test - 用于用户测试数据
information_schema - MySQL本身架构相关数据
2、使用数据库
USE db_name;
3、显示所有表
SHOW TABLES;
4、用户授权
创建用户
create user'用户名'@'IP地址' identified by '密码';
删除用户
drop user'用户名'@'IP地址';
修改用户
rename user'用户名'@'IP地址'; to '新用户名'@'IP地址';;
修改密码
set passwordfor '用户名'@'IP地址' = Password('新密码')
PS:用户权限相关数据保存在mysql数据库的user表中,所以也可以直接对其进行操作(不建议)
授权管理:
show grants for '用户'@'IP地址' --查看权限
grant 权限 on 数据库.表 to'用户'@'IP地址' --授权
revoke 权限 on 数据库.表from '用户'@'IP地址' -- 取消权限
all privileges 除grant外的所有权限
select 仅查权限
select,insert 查和插入权限
...
usage 无访问权限
alter 使用alter table
alter routine 使用alter procedure和drop procedure
create 使用create table
create routine 使用create procedure
create temporary tables 使用create temporary tables
create user 使用create user、drop user、rename user和revoke all privileges
create view 使用create view
delete 使用delete
drop 使用drop table
execute 使用call和存储过程
file 使用select into outfile 和 load data infile
grant option 使用grant 和 revoke
index 使用index
insert 使用insert
lock tables 使用lock table
process 使用show full processlist
select 使用select
show databases 使用show databases
show view 使用show view
update 使用update
reload 使用flush
shutdown 使用mysqladmin shutdown(关闭MySQL)
super 使用change master、kill、logs、purge、master和setglobal。还允许mysqladmin调试登陆
replication client 服务器位置的访问
replication slave 由复制从属使用
权限管理
对于目标数据库以及内部其他:
数据库名.*数据库中的所有
数据库名.表 指定数据库中的某张表
数据库名.存储过程 指定数据库中的存储过程*.* 所有数据库
对于数据库
用户名@IP地址 用户只能在改IP下才能访问
用户名@192.168.1.% 用户只能在改IP段下才能访问(通配符%表示任意)
用户名@% 用户可以再任意IP下访问(默认IP地址为%)
对于用户和ip
grant all privileges on db1.tb1 TO '用户名'@'IP'grant select on db1.* TO '用户名'@'IP'grant select,insert on*.* TO '用户名'@'IP'revoke select on db1.tb1from '用户名'@'IP'
举例
四、表操作
1、创建表
create table 表名(
列名 类型 是否可以为空,
列名 类型 是否可以为空
)
是否可空,null表示空,非字符串not null -不可空
null- 可空
是否为空
默认值,创建列时可以指定默认值,当插入数据时如果未主动设置,则自动添加默认值
create table tb1(
nid intnot null defalut 2,
num intnotnull
)
默认值
自增,如果为某列设置自增列,插入数据时无需设置此列,默认将自增(表中只能有一个自增列)
create table tb1(
nid intnotnull auto_increment primary key,
num int null
)
或
create table tb1(
nid intnotnull auto_increment,
num int null,
index(nid)
)
注意:1、对于自增列,必须是索引(含主键)。2、对于自增可以设置步长和起始值
show session variables like'auto_inc%';
set session auto_increment_increment=2;
set session auto_increment_offset=10;
shwoglobal variables like 'auto_inc%';
setglobal auto_increment_increment=2;
setglobal auto_increment_offset=10;
自增
主键,一种特殊的唯一索引,不允许有空值,如果主键使用单个列,则它的值必须唯一,如果是多列,则其组合必须唯一。
create table tb1(
nid intnotnull auto_increment primary key,
num int null
)
或
create table tb1(
nid intnotnull,
num intnotnull,
primary key(nid,num)
)
主键
外键,一个特殊的索引,只能是指定内容
creat table color(
nid intnotnull primary key,
name char(16) notnull
)
create table fruit(
nid intnotnull primary key,
smt char(32) null ,
color_id intnotnull,
constraint fk_cc foreign key (color_id) references color(nid)
)
外键
2、删除表
drop table 表名
3、清空表
delete from表名
truncate table 表名
4、修改表
添加列:alter table 表名 add 列名 类型
删除列:alter table 表名 drop column 列名
修改列:
alter table 表名 modify column 列名 类型;--类型
alter table 表名 change 原列名 新列名 类型;--列名,类型
添加主键:
alter table 表名 add primary key(列名);
删除主键:
alter table 表名 drop primary key;
alter table 表名 modify 列名 int, drop primary key;
添加外键:alter table 从表 add constraint 外键名称(形如:FK_从表_主表) foreign key 从表(外键字段) references 主表(主键字段);
删除外键:alter table 表名 drop foreign key 外键名称
修改默认值:ALTER TABLE testalter_tbl ALTER i SET DEFAULT1000;
删除默认值:ALTER TABLE testalter_tbl ALTER i DROP DEFAULT;
5、基本数据类型
MySQL的数据类型大致分为:数值、时间和字符串
http://www.runoob.com/mysql/mysql-data-types.html
五、基本操作
1、增
insert into 表 (列名,列名...) values (值,值,值...)
insert into 表 (列名,列名...) values (值,值,值...),(值,值,值...)
insert into 表 (列名,列名...) select (列名,列名...)from 表
增
2、删
delete from表
deletefrom 表 where id=1 and name='alex'
删
3、改
update 表 set name = 'alex' where id>1
改
4、查
elect * from表
select* from 表 where id > 1select nid,name,gender as ggfrom 表 where id > 1
查
5、其他
1、条件
select* from 表 where id > 1 and name != 'alex' and num = 12;
select* from 表 where id between 5 and 16;
select* from 表 where id in (11,22,33)
select* from 表 where id not in (11,22,33)
select* from 表 where id in (select nid from表)2、通配符
select* from 表 where name like 'ale%' -ale开头的所有(多个字符串)
select* from 表 where name like 'ale_' -ale开头的所有(一个字符)3、限制
select* from 表 limit 5; -前5行
select* from 表 limit 4,5; -从第4行开始的5行
select* from 表 limit 5 offset 4 -从第4行开始的5行4、排序
select* from 表 order by 列 asc -根据 “列” 从小到大排列
select* from 表 order by 列 desc -根据 “列” 从大到小排列
select* from 表 order by 列1 desc,列2 asc -根据 “列1” 从大到小排列,如果相同则按列2从小到大排序5、分组
select numfrom表 group by num
select num,nidfrom表 group by num,nid
select num,nidfrom 表 where nid > 10group by num,nid order nid desc
select num,nid,count(*),sum(score),max(score),min(score) from表 group by num,nid
select numfrom 表 group by num having max(id) > 10特别的:group by 必须在where之后,order by之前6、连表
无对应关系则不显示
select A.num, A.name, B.namefromA,B
Where A.nid=B.nid
无对应关系则不显示
select A.num, A.name, B.namefromA inner join B
on A.nid=B.nid
A表所有显示,如果B中无对应关系,则值为null
select A.num, A.name, B.namefromA left join B
on A.nid=B.nid
B表所有显示,如果B中无对应关系,则值为null
select A.num, A.name, B.namefromA right join B
on A.nid=B.nid7、组合
组合,自动处理重合
select nicknamefromA
union
select namefromB
组合,不处理重合
select nicknamefromA
union all
select namefromB
复制代码
View Code
pymsql
pymsql是Python中操作MySQL的模块,其使用方法和MySQLdb几乎相同。
一、下载安装:
pip3 install pymysql
二、使用
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
# 创建连接
conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1')
# 创建游标
cursor = conn.cursor()
# 执行SQL,并返回收影响行数
effect_row = cursor.execute("update hosts set host = '1.1.1.2'")
# 执行SQL,并返回受影响行数
#effect_row = cursor.execute("update hosts set host = '1.1.1.2' where nid > %s", (1,))
# 执行SQL,并返回受影响行数
#effect_row = cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)])
# 提交,不然无法保存新建或者修改的数据
conn.commit()
# 关闭游标
cursor.close()
# 关闭连接
conn.close()
2、获取新创建数据自增ID
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1')
cursor = conn.cursor()
cursor.executemany("insert into hosts(host,color_id)values(%s,%s)", [("1.1.1.11",1),("1.1.1.11",2)])
conn.commit()
cursor.close()
conn.close()
# 获取最新自增ID
new_id = cursor.lastrowid
3、获取查询数据
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1')
cursor = conn.cursor()
cursor.execute("select * from hosts")
# 获取第一行数据
row_1 = cursor.fetchone()
# 获取前n行数据
# row_2 = cursor.fetchmany(3)
# 获取所有数据
# row_3 = cursor.fetchall()
conn.commit()
cursor.close()
conn.close()
注:在fetch数据时按照顺序进行,可以使用cursor.scroll(num,mode)来移动游标位置,如:
cursor.scroll(1,mode='relative') # 相对当前位置移动
cursor.scroll(2,mode='absolute') # 相对绝对位置移动
4、fetch数据类型
关于默认获取的数据是元祖类型,如果想要或者字典类型的数据,即:
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import pymysql
conn = pymysql.connect(host='127.0.0.1', port=3306, user='root', passwd='123', db='t1')
# 游标设置为字典类型
cursor = conn.cursor(cursor=pymysql.cursors.DictCursor)
r = cursor.execute("call p1()")
result = cursor.fetchone()
conn.commit()
cursor.close()
conn.close()
SQLAchemy
SQLAlchemy是Python编程语言下的一款ORM框架,该框架建立在数据库API之上,使用关系对象映射进行数据库操作,简言之便是:将对象转换成SQL,然后使用数据API执行SQL并获取执行结果。
SQLAlchemy本身无法操作数据库,其必须以来pymsql等第三方插件,Dialect用于和数据API进行交流,根据配置文件的不同调用不同的数据库API,从而实现对数据库的操作,如:
MySQL-Python
mysql+mysqldb://:@[:]/pymysql
mysql+pymysql://:@/[?]
MySQL-Connector
mysql+mysqlconnector://:@[:]/cx_Oracle
oracle+cx_oracle://user:pass@host:port/dbname[?key=value&key=value...]
更多详见:http://docs.sqlalchemy.org/en/latest/dialects/index.html
一、底层处理
使用 Engine/ConnectionPooling/Dialect 进行数据库操作,Engine使用ConnectionPooling连接数据库,然后再通过Dialect执行SQL语句。
#!/usr/bin/env python
# -*- coding:utf-8 -*-
from sqlalchemy import create_engine
engine = create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5)
# 执行SQL
# cur = engine.execute(
# "INSERT INTO hosts (host, color_id) VALUES ('1.1.1.22', 3)"
# )
# 新插入行自增ID
# cur.lastrowid
# 执行SQL
# cur = engine.execute(
# "INSERT INTO hosts (host, color_id) VALUES(%s, %s)",[('1.1.1.22', 3),('1.1.1.221', 3),]
# )
# 执行SQL
# cur = engine.execute(
# "INSERT INTO hosts (host, color_id) VALUES (%(host)s, %(color_id)s)",
# host='1.1.1.99', color_id=3
# )
# 执行SQL
# cur = engine.execute('select * from hosts')
# 获取第一行数据
# cur.fetchone()
# 获取第n行数据
# cur.fetchmany(3)
# 获取所有数据
# cur.fetchall()
二、ORM功能使用
使用 ORM/Schema Type/SQL Expression Language/Engine/ConnectionPooling/Dialect 所有组件对数据进行操作。根据类创建对象,对象转换成SQL,执行SQL。
1、创建表
#!/usr/bin/env python#-*- coding:utf-8 -*-
from sqlalchemy.ext.declarative importdeclarative_basefrom sqlalchemy importColumn, Integer, String, ForeignKey, UniqueConstraint, Indexfrom sqlalchemy.orm importsessionmaker, relationshipfrom sqlalchemy importcreate_engine
engine= create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5)
Base=declarative_base()#创建单表
classUsers(Base):__tablename__ = 'users'id= Column(Integer, primary_key=True)
name= Column(String(32))
extra= Column(String(16))__table_args__ =(
UniqueConstraint('id', 'name', name='uix_id_name'),
Index('ix_id_name', 'name', 'extra'),
)#一对多
classFavor(Base):__tablename__ = 'favor'nid= Column(Integer, primary_key=True)
caption= Column(String(50), default='red', unique=True)classPerson(Base):__tablename__ = 'person'nid= Column(Integer, primary_key=True)
name= Column(String(32), index=True, nullable=True)
favor_id= Column(Integer, ForeignKey("favor.nid"))#多对多
classGroup(Base):__tablename__ = 'group'id= Column(Integer, primary_key=True)
name= Column(String(64), unique=True, nullable=False)
port= Column(Integer, default=22)classServer(Base):__tablename__ = 'server'id= Column(Integer, primary_key=True, autoincrement=True)
hostname= Column(String(64), unique=True, nullable=False)classServerToGroup(Base):__tablename__ = 'servertogroup'nid= Column(Integer, primary_key=True, autoincrement=True)
server_id= Column(Integer, ForeignKey('server.id'))
group_id= Column(Integer, ForeignKey('group.id'))definit_db():
Base.metadata.create_all(engine)defdrop_db():
Base.metadata.drop_all(engine)
View Code
ForeignKeyConstraint(['other_id'], ['othertable.other_id']),
2、操作表
#!/usr/bin/env python#-*- coding:utf-8 -*-
from sqlalchemy.ext.declarative importdeclarative_basefrom sqlalchemy importColumn, Integer, String, ForeignKey, UniqueConstraint, Indexfrom sqlalchemy.orm importsessionmaker, relationshipfrom sqlalchemy importcreate_engine
engine= create_engine("mysql+pymysql://root:123@127.0.0.1:3306/t1", max_overflow=5)
Base=declarative_base()#创建单表
classUsers(Base):__tablename__ = 'users'id= Column(Integer, primary_key=True)
name= Column(String(32))
extra= Column(String(16))__table_args__ =(
UniqueConstraint('id', 'name', name='uix_id_name'),
Index('ix_id_name', 'name', 'extra'),
)def __repr__(self):return "%s-%s" %(self.id, self.name)#一对多
classFavor(Base):__tablename__ = 'favor'nid= Column(Integer, primary_key=True)
caption= Column(String(50), default='red', unique=True)def __repr__(self):return "%s-%s" %(self.nid, self.caption)classPerson(Base):__tablename__ = 'person'nid= Column(Integer, primary_key=True)
name= Column(String(32), index=True, nullable=True)
favor_id= Column(Integer, ForeignKey("favor.nid"))#与生成表结构无关,仅用于查询方便
favor = relationship("Favor", backref='pers')#多对多
classServerToGroup(Base):__tablename__ = 'servertogroup'nid= Column(Integer, primary_key=True, autoincrement=True)
server_id= Column(Integer, ForeignKey('server.id'))
group_id= Column(Integer, ForeignKey('group.id'))
group= relationship("Group", backref='s2g')
server= relationship("Server", backref='s2g')classGroup(Base):__tablename__ = 'group'id= Column(Integer, primary_key=True)
name= Column(String(64), unique=True, nullable=False)
port= Column(Integer, default=22)#group = relationship('Group',secondary=ServerToGroup,backref='host_list')
classServer(Base):__tablename__ = 'server'id= Column(Integer, primary_key=True, autoincrement=True)
hostname= Column(String(64), unique=True, nullable=False)definit_db():
Base.metadata.create_all(engine)defdrop_db():
Base.metadata.drop_all(engine)
Session= sessionmaker(bind=engine)
session=Session()
表结构+连接数据库
表结构加连接数据库
增
obj = Users(name="alex0", extra='sb')
session.add(obj)
session.add_all([
Users(name="alex1", extra='sb'),
Users(name="alex2", extra='sb'),
])
session.commit()
View Code
删
session.query(Users).filter(Users.id > 2).delete()
session.commit()
View Code
改
session.query(Users).filter(Users.id > 2).update({"name" : "099"})
session.query(Users).filter(Users.id> 2).update({Users.name: Users.name + "099"}, synchronize_session=False)
session.query(Users).filter(Users.id> 2).update({"num": Users.num + 1}, synchronize_session="evaluate")
session.commit()
View Code
查
ret =session.query(Users).all()
ret=session.query(Users.name, Users.extra).all()
ret= session.query(Users).filter_by(name='alex').all()
ret= session.query(Users).filter_by(name='alex').first()
View Code
其他
其他
View Code
更多功能参见文档,猛击这里下载PDF
Paramiko
paramiko模块,基于SSH用于连接远程服务器并执行相关操作。
一、安装
pip3 install paramiko
二、使用
SSHClient
用于连接远程服务器并执行基本命令
基于用户名密码连接:
import paramiko
# 创建SSH对象
ssh = paramiko.SSHClient()
# 允许连接不在know_hosts文件中的主机
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
# 连接服务器
ssh.connect(hostname='c1.salt.com', port=22, username='wupeiqi', password='123')
# 执行命令
stdin, stdout, stderr = ssh.exec_command('ls')
# 获取命令结果
result = stdout.read()
# 关闭连接
ssh.close()
importparamiko
transport= paramiko.Transport(('hostname', 22))
transport.connect(username='wupeiqi', password='123')
ssh=paramiko.SSHClient()
ssh._transport=transport
stdin, stdout, stderr= ssh.exec_command('df')printstdout.read()
transport.close()
SSHClient 封装 Transport
基于公钥密钥连接:
import paramiko
private_key = paramiko.RSAKey.from_private_key_file('/home/auto/.ssh/id_rsa')
# 创建SSH对象
ssh = paramiko.SSHClient()
# 允许连接不在know_hosts文件中的主机
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
# 连接服务器
ssh.connect(hostname='c1.salt.com', port=22, username='wupeiqi', key=private_key)
# 执行命令
stdin, stdout, stderr = ssh.exec_command('df')
# 获取命令结果
result = stdout.read()
# 关闭连接
ssh.close()
importparamiko
private_key= paramiko.RSAKey.from_private_key_file('/home/auto/.ssh/id_rsa')
transport= paramiko.Transport(('hostname', 22))
transport.connect(username='wupeiqi', pkey=private_key)
ssh=paramiko.SSHClient()
ssh._transport=transport
stdin, stdout, stderr= ssh.exec_command('df')
transport.close()
SSHClient 封装 Transport
SFTPClient
用于连接远程服务器并执行上传下载
基于用户名密码上传下载:
import paramiko
transport = paramiko.Transport(('hostname',22))
transport.connect(username='wupeiqi',password='123')
sftp = paramiko.SFTPClient.from_transport(transport)
# 将location.py 上传至服务器 /tmp/test.py
sftp.put('/tmp/location.py', '/tmp/test.py')
# 将remove_path 下载到本地 local_path
sftp.get('remove_path', 'local_path')
transport.close()
基于公钥密钥上传下载:
import paramiko
private_key = paramiko.RSAKey.from_private_key_file('/home/auto/.ssh/id_rsa')
transport = paramiko.Transport(('hostname', 22))
transport.connect(username='wupeiqi', pkey=private_key )
sftp = paramiko.SFTPClient.from_transport(transport)
# 将location.py 上传至服务器 /tmp/test.py
sftp.put('/tmp/location.py', '/tmp/test.py')
# 将remove_path 下载到本地 local_path
sftp.get('remove_path', 'local_path')
transport.close()
#!/usr/bin/env python#-*- coding:utf-8 -*-
importparamikoimportuuidclassSSHConnection(object):def __init__(self, host='172.16.103.191', port=22, username='wupeiqi',pwd='123'):
self.host=host
self.port=port
self.username=username
self.pwd=pwd
self.__k =Nonedefcreate_file(self):
file_name=str(uuid.uuid4())
with open(file_name,'w') as f:
f.write('sb')returnfile_namedefrun(self):
self.connect()
self.upload('/home/wupeiqi/tttttttttttt.py')
self.rename('/home/wupeiqi/tttttttttttt.py', '/home/wupeiqi/ooooooooo.py)
self.close()defconnect(self):
transport=paramiko.Transport((self.host,self.port))
transport.connect(username=self.username,password=self.pwd)
self.__transport =transportdefclose(self):
self.__transport.close()defupload(self,target_path):#连接,上传
file_name =self.create_file()
sftp= paramiko.SFTPClient.from_transport(self.__transport)#将location.py 上传至服务器 /tmp/test.py
sftp.put(file_name, target_path)defrename(self, old_path, new_path):
ssh=paramiko.SSHClient()
ssh._transport= self.__transport
#执行命令
cmd = "mv %s %s" %(old_path, new_path,)
stdin, stdout, stderr=ssh.exec_command(cmd)#获取命令结果
result =stdout.read()defcmd(self, command):
ssh=paramiko.SSHClient()
ssh._transport= self.__transport
#执行命令
stdin, stdout, stderr =ssh.exec_command(command)#获取命令结果
result =stdout.read()returnresult
ha=SSHConnection()
ha.run()
Demo
Demo
#对于更多限制命令,需要在系统中设置
/etc/sudoers
Defaults requiretty
Defaults:cmdb !requiretty