#因为同事要做个训练集,其中交易对手有个人和企业,但是因为现在这个数据集中的账户名称太乱了,同事用了暴力的做法,把所有账户名称超过3个字的都认为是企业,3个字的都是认为是个人,这个相对粗暴,我看到jieba的NER识别有个算法可以区分,做了小程序。
# 合并代码
import pandas as pd
import jieba.posseg as pseg
# 读取CSV文件
file_path = '识别文件.csv'
data = pd.read_csv(file_path)
# 定义一个函数来获取词性标注结果
def get_word_tags(name):
words = pseg.cut(name)
# 返回一个包含词和词性的列表
return [(word.word, word.flag) for word in words]
# 应用函数到数据
data['词性标注结果'] = data['名称'].apply(get_word_tags)
# 显示处理后的数据
print(data)
# 保存结果到新文件
output_file_path = '名称识别NER过程.csv'
data.to_csv(output_file_path, index=False)
import csv
csv_file = '名称识别NER过程.csv'
results = []
with open(csv_file, newline='', encoding='utf-8') as csvfile:
reader = csv.DictReader(csvfile) # 使用DictReader方便通过列名访问数据
for row in reader:
name = row['名称']
pos_tags = eval(row['词性标注结果']) # 转换为列表
# 检查是否包含'nr',且没有其他可能表示企业或机构的词性
is_person = any(tag[1] == 'nr' for tag in pos_tags)
is_likely_company = any(tag[1] in ['ns', 'n', 'nt'] for tag in pos_tags)
# 如果是人名且没有其他词性标注,认为是个人
# 如果是人名但同时有其他词性标注,需要进一步分析
if is_person and not is_likely_company:
classification = '个人'
elif is_person and is_likely_company:
# 这里可以添加更复杂的逻辑来确定是个人还是企业
# 例如,检查词性标注列表中'nr'的数量是否占多数
if sum(1 for tag in pos_tags if tag[1] == 'nr') > 1:
classification = '个人'
else:
classification = '企业' # 默认情况下,如果不确定,可以认为是企业
else:
classification = '企业'
results.append((name, classification))
for result in results:
print(result)
# 保存结果到新文件
# 打开文件进行写入操作
with open('名称识别NER最终结果.csv', 'w', encoding='utf-8') as file:
for item in results:
# 将每个元组格式化为字符串,然后写入文件
file.write(f"{item[0]}, {item[1]}\n")
# 使用 PyInstaller 创建可执行文件:
# 对于 Windows,运行:
# pyinstaller --onefile your_script.py
其中输入文件是识别文件.csv
格式如下:
这个程序对英文感觉不友好,所有英文都识别为企业。
我打算下个模型采用哈工大的HanLp来测试一下。