假设A表有两列,一列是文章标题,另外一列是文章简介,B表有一列,敏感词,需要判断标题和简介中,是否含有敏感词,如果有则打上*号。
例如:
标题:AC自动机敏感词
替换后:AC自动机***
简介:AC自动机敏感词 主要依靠构造一个有限状态机(类似于在一个trie树中添加失配指针)来实现。这些额外的失配指针允许在查找字符串失败时进行回退(例如设Trie树的单词cat匹配失败,但是在Trie树中存在另一个单词cart,失配指针就会指向前缀ca),转向某前缀的其他敏感词
替换后:AC自动机*** 主要依靠构造一个有限状态机(类似于在一个trie树中添加失配指针)来实现。这些额外的失配指针允许在查找字符串失败时进行回退(例如设Trie树的单词cat匹配失败,但是在Trie树中存在另一个单词cart,失配指针就会指向前缀ca),转向某前缀的其他***。
import psycopg2
import psycopg2.extras
from config.load_config import get_connect_info
class Link_Postgres():
def __init__(self):
conf1, conf2 = get_connect_info()
self.conn1 = psycopg2.connect(
dbname=conf1["dbname"],
user=conf1["user"],
password=conf1["password"],
host=conf1["host"],
port=conf1["port"]
)
self.cur1 = self.conn1.cursor()
def sensitive_words(self):
# 对标题和简介中的黑词进行脱敏
self.cur1.execute("select title,introduce from A表")
data = self.cur1.fetchall()
self.cur1.execute("select black_word from B表")
keywords = self.cur1.fetchall()
column1 = []
column2 = []
for row in data:
column1.append(row[0])
column2.append(row[1])
# print(column1,column2)
keywords_list = []
for row in keywords:
keywords_list.append(row[0])
# print(keywords_list)
for item in column1:
# print(item)
if item != None:
for word in keywords_list:
if word in item:
item_new1 = item.replace(word, "*" * len(word))
self.cur1.execute("update A表 set title=%s where title=%s ",
(item_new1, item))
self.conn1.commit()
for item in column2:
if item != None:
for word in keywords_list:
if word in item:
item_new2 = item.replace(word, "*" * len(word))
self.cur1.execute("update A表 set introduce=%s where introduce=%s ",
(item_new2, item))
self.conn1.commit()
print('敏感词处理已完成')
lp = Link_Postgres()
lp.sensitive_words()