Github开源代码链接: https://github.com/Alreiters/-Python-SQL-.git
一、简介
1.SQL
SQL(Structured Query Language)是用于管理关系数据库的标准编程语言。通过使用SQL,用户可以执行各种数据库操作,如查询、插入、更新和删除数据,以及创建、修改和管理数据库结构。
2.DB2
DB2是IBM公司开发的关系数据库管理系统。它有多种不同的版本,如DB2工作组版、DB2企业版、DB2个人版和DB2企业扩展版等。这些产品基本的数据管理功能是一样的,区别在于支持远程客户能力和分布式处理能力。
二、所需填写项
1.字段英文名
2.字段类型
3.字段长度
4.主键
5.是否必填
6.字段密级
全部填写“3”
7.字段脱敏
全部填写“0”
8.分区
全部填写“false”
9.分区信息(最后一行)
全部填写“false”
三、实现
基本思路:使用Python语言,识别SQL文本, 正则表达式提取所需信息,利用Openpyxl库函数写入Excel
1.读取文件
# 使用 'r' 参数来读取文件
try:
# 提示用户输入文件名
file_name = input("请输入文件名: ")
# 尝试以读取模式打开文件,并指定编码为 Windows-1252
with open(file_name, 'r', encoding='Windows-1252') as file:
content = file.read()
......
#和一开始的“try”构成异常处理结构
except FileNotFoundError:
print("文件未找到,请检查文件路径是否正确。")
except Exception as e:
print(f"发生错误: {e}")
2.正则表达式提取
定义文本范围
# 正则表达式提取
start_marker = 'CREATE TABLE' # 开始位置
end_marker = 'COMMENT ON ' # 结束位置
# 使用正则表达式找到起始和结束位置
start_pos = re.search(start_marker, content).end()
end_pos = re.search(end_marker, content[start_pos:]).start() + start_pos
# 提取特定范围内的内容
text = content[start_pos:end_pos]
2.1字段英文名
# 提取字段英文名
# 使用正则表达式匹配双引号内的内容
matches = re.findall(r'"([^"]*)"', text)
2.2字段类型
# 提取字段类型
# 提取第一个左括号的位置
matchbracket = re.search(r'\(', content[start_pos:end_pos])
# 定义 start_pos2
start_pos2 = matchbracket.start() + start_pos
# 提取特定范围内的内容
text2 = content[start_pos2:end_pos]
# 使用逗号分割文本
split_text = text2.split(',')
# 替换每个字符串中的"/n/t/t"为空白
split_text2 = [item.replace("\n\t\t", " ") for item in split_text]
# 去除每个字符串两端的空格
split_text3 = [item.strip() for item in split_text2]
# 对每个字符串使用空格分割,并取第一个空格后的字符串
matches2 = [re.findall(r'\b[A-Za-z]+\b', item)[0] for item in split_text3]
2.3字段长度
# 提取字段长度
# 初始化一个空列表来存储结果
matches3 = []
# 首先,按逗号分隔文本字符串
text_length = text2.split(',')
# 使用for循环遍历列表中的每一项
for item2 in text_length:
# 对每一项应用正则表达式
match3 = re.search(r'\((\d+)\)', item2)
if match3:
# 如果找到匹配项,将括号内的数字添加到结果列表中
matches3.append(match3.group(1))
else:
# 如果没有找到匹配项,添加一个空字符串到结果列表中
matches3.append('')
定义另一个文本范围
# 正则表达式提取另一个范围
start_marker2 = 'PRIMARY KEY' # 开始位置
end_marker2 = 'SET' # 结束位置
# 使用正则表达式找到起始和结束位置
start_pos2 = re.search(start_marker2, content).end()
end_pos2 = re.search(end_marker2, content[start_pos2:]).start() + start_pos2
# 提取特定范围内的内容
text_new = content[start_pos2:end_pos2]
2.4主键
# 提取主键
# 使用正则表达式匹配双引号内的内容
matches4 = re.findall(r'"([^"]*)"', text_new)
# 去除最后两项(最后两项为文件名)
matches4 = matches4[:-2]
# 开始遍历从matches的第三项(索引为2)开始
matches4 = ['true' if match in matches4 else 'false' for match in matches[2:]]
2.5是否必填
# 提取是否必填
# 判断每一项是否有“NOT NULL"
matches5 = ["true" if "NOT NULL" in item else "false" for item in split_text2]
2.6字端密级
# 提取字段密级(均为“3”)
matches6 = [3 for _ in matches[2:-2]]
2.7字段脱敏
# 提取字段脱敏(均为“0”)
matches7 = [0 for _ in matches[2:-2]]
2.8分区
# 提取分区(均为“false”)
matches8 = ["false" for _ in matches[2:-2]]
3.利用 Openpyxl库写入Excel
选取与保存
# 写入Excel表格并保存
# 打开Excel文件
workbook = openpyxl.load_workbook('/Users/alreiters/Desktop/hiveImportTemplate.xlsx')
worksheet = workbook.active
......
workbook.save("/Users/alreiters/Desktop/hiveImportTemplate1.xlsx")
3.1写入字段英文名
# 写入字段英文名
# 写入前两行,因为这两项为文件名(注意:这里使用正确的行索引1和2)
for i in range(1, 3): # Excel的行索引从1开始
worksheet.cell(row=i, column=1, value=matches[i - 1]) # 减1以匹配matches的索引
# 从第三行开始写入到倒数第三行,因为最后两项为表名和索引名
for idx, match in enumerate(matches[2:-2], start=10): # 从第三项开始,并设置start=3以匹配Excel的行索引
worksheet.cell(row=idx, column=1, value=match)
3.2写入字段类型
#写入字段类型
for idx2, match2 in enumerate(matches2, start=10): # 从第三项开始,并设置start=3以匹配Excel的行索引
worksheet.cell(row=idx2, column=3, value=match2)
3.3写入字段长度
# 写入字段类型
for idx3, match3 in enumerate(matches3, start=10):
worksheet.cell(row=idx3, column=4, value=match3)
3.4写入主键
# 写入主键
for idx4, match4 in enumerate(matches4, start=10):
worksheet.cell(row=idx4, column=5, value=match4)
3.5写入是否必填
# 写入是否必填
for idx5, match5 in enumerate(matches5, start=10):
worksheet.cell(row=idx5, column=7, value=match5)
3.6写入字段密级
# 写入字段密级
for idx6, match6 in enumerate(matches6, start=10):
worksheet.cell(row=idx6, column=8, value=match6)
3.7写入字段脱敏
# 写入字段脱敏
for idx7, match7 in enumerate(matches7, start=10):
worksheet.cell(row=idx7, column=9, value=match7)
3.8写入分区
# 写入分区
for idx8, match8 in enumerate(matches8, start=10):
worksheet.cell(row=idx8, column=12, value=match8)
3.9写入表头信息
# 填写表头信息
worksheet.cell(row=5, column=1, value=file_name)
worksheet.cell(row=5, column=6, value=file_name)
worksheet.cell(row=5, column=7, value=file_name)