敏感词过滤工具:sensitive-word 使用教程

敏感词过滤工具:sensitive-word 使用教程

sensitive-word 👮‍♂️The sensitive word tool for java.(敏感词/违禁词/违法词/脏词。基于 DFA 算法实现的高性能 java 敏感词过滤工具框架。请勿发布涉及政治、广告、营销、翻墙、违反国家法律法规等内容。高性能敏感词检测过滤组件,附带繁体简体互换,支持全角半角互换,汉字转拼音,模糊搜索等功能。)项目地址:https://gitcode.com/gh_mirrors/se/sensitive-word

项目介绍

sensitive-word 是一个基于 DFA 算法实现的高性能 Java 敏感词过滤工具。它支持敏感词的判断、返回、脱敏等常见操作,并且具有以下特点:

  • 6W+ 词库,且不断优化更新。
  • 基于 DFA 算法,性能较好。
  • 基于 fluent-api 实现,使用优雅简洁。
  • 支持全角半角互换、英文大小写互换。

项目快速启动

1. 引入依赖

在 Maven 项目中,添加以下依赖:

<dependency>
    <groupId>com.github.houbb</groupId>
    <artifactId>sensitive-word</artifactId>
    <version>0.2.0</version>
</dependency>

2. 基本使用

以下是一个简单的使用示例:

import com.github.houbb.sensitive.word.api.IWordResultHandler;
import com.github.houbb.sensitive.word.bs.SensitiveWordBs;

public class SensitiveWordExample {
    public static void main(String[] args) {
        String text = "这是一个包含敏感词的测试文本,比如包含色情、赌博等词汇。";

        // 判断是否包含敏感词
        boolean contains = SensitiveWordBs.newInstance().contains(text);
        System.out.println("是否包含敏感词: " + contains);

        // 返回所有敏感词
        List<String> allWords = SensitiveWordBs.newInstance().findAll(text);
        System.out.println("所有敏感词: " + allWords);

        // 返回第一个敏感词
        String firstWord = SensitiveWordBs.newInstance().findFirst(text);
        System.out.println("第一个敏感词: " + firstWord);

        // 脱敏处理
        String desensitizedText = SensitiveWordBs.newInstance().replace(text, '*');
        System.out.println("脱敏后的文本: " + desensitizedText);
    }
}

应用案例和最佳实践

1. 社交平台敏感词过滤

在社交平台中,用户可以自由发言,因此需要对用户发布的内容进行敏感词过滤。以下是一个简单的实现示例:

public class SocialMediaFilter {
    private static final SensitiveWordBs sensitiveWordBs = SensitiveWordBs.newInstance();

    public static String filter(String content) {
        return sensitiveWordBs.replace(content, '*');
    }

    public static void main(String[] args) {
        String userPost = "这是一个包含敏感词的帖子,比如包含色情、赌博等词汇。";
        String filteredPost = filter(userPost);
        System.out.println("过滤后的帖子内容: " + filteredPost);
    }
}

2. 论坛评论过滤

在论坛中,用户可以发表评论,因此需要对评论内容进行敏感词过滤。以下是一个简单的实现示例:

public class ForumCommentFilter {
    private static final SensitiveWordBs sensitiveWordBs = SensitiveWordBs.newInstance();

    public static String filter(String comment) {
        return sensitiveWordBs.replace(comment, '*');
    }

    public static void main(String[] args) {
        String userComment = "这是一个包含敏感词的评论,比如包含色情、赌博等词汇。";
        String filteredComment = filter(userComment);
        System.out.println("过滤后的评论内容: " + filteredComment);
    }
}

典型生态项目

1. 腾讯离线敏感词库

腾讯离线敏感词库是一个由开发者社区精心维护的开源项目,提供了大量的敏感词汇,可以与 sensitive-word 结合使用,增强敏感词过滤的效果。

项目地址: 腾讯离线敏感词库

2. 敏感词过滤方案汇总

GitHub 上有多个敏感词过滤相关的项目,可以参考这些项目来优化和扩展 sensitive-word 的功能。

项目地址: 敏感词过滤方案汇总

通过结合这些生态项目,

sensitive-word 👮‍♂️The sensitive word tool for java.(敏感词/违禁词/违法词/脏词。基于 DFA 算法实现的高性能 java 敏感词过滤工具框架。请勿发布涉及政治、广告、营销、翻墙、违反国家法律法规等内容。高性能敏感词检测过滤组件,附带繁体简体互换,支持全角半角互换,汉字转拼音,模糊搜索等功能。)项目地址:https://gitcode.com/gh_mirrors/se/sensitive-word

### 回答1: 可以使用 Java 中的正则表达式来实现文本的敏感词过滤。首先,将需要过滤敏感词汇存储在一个列表或者数组中,然后使用正则表达式来匹配文本中的敏感词并进行过滤。以下是一个示例代码: ```java import java.util.regex.*; public class SensitiveWordFilter { private static final String[] sensitiveWords = {"敏感词1", "敏感词2", "敏感词3"}; // 需要过滤敏感词汇列表 public static String filter(String text) { StringBuilder sb = new StringBuilder(text); for (String sensitiveWord : sensitiveWords) { String regex = "(?i)" + sensitiveWord; // 忽略大小写匹配 Pattern pattern = Pattern.compile(regex); Matcher matcher = pattern.matcher(sb); while (matcher.find()) { int start = matcher.start(); int end = matcher.end(); sb.replace(start, end, "*".repeat(end - start)); // 将敏感词替换为 "*" } } return sb.toString(); } } ``` 在上面的代码中,`filter()` 方法接收一个字符串参数 `text`,并返回一个过滤后的字符串。敏感词汇列表 `sensitiveWords` 存储了需要过滤敏感词汇。在过滤时,使用正则表达式 `regex` 来匹配敏感词汇,然后使用 `replace()` 方法将敏感词汇替换为 `*`。最后返回过滤后的字符串。 ### 回答2: 敏感词过滤是一项常见的文本处理任务,可以通过简单的算法和数据结构来实现。下面我将以Java为例,介绍一种实现敏感词过滤的方法: 1. 首先,我们需要准备一个敏感词库,包含所有的敏感词。可以将敏感词存储在一个字符串数组中,或者从外部文件中读取。 2. 然后,我们可以使用Trie树(字典树)来构建敏感词的数据结构。Trie树是一种非常适合用于文本搜索的数据结构,可以高效地检查文本中是否包含敏感词。 3. 接下来,我们需要编写一个函数,用于将文本中的敏感词替换为特定的字符(例如符号"*")。该函数接收一个字符串参数,表示待处理的文本,返回替换完成后的文本。 4. 在函数内部,我们可以遍历待处理的文本,逐个字符地查找 Trie 树中是否存在匹配的字符序列。如果找到匹配的字符序列,则将相应的敏感词替换为特定字符。 5. 最后,我们将替换完成后的文本返回即可。 以下是一个简单的示例代码: ```java import java.util.ArrayList; import java.util.List; public class SensitiveWordFilter { private TrieNode root; public SensitiveWordFilter() { root = new TrieNode(); } public void addSensitiveWord(String word) { TrieNode node = root; for (Character c : word.toCharArray()) { if (!node.containsKey(c)) { node.put(c, new TrieNode()); } node = node.get(c); } node.setEndOfWord(true); } public String filter(String text) { StringBuilder result = new StringBuilder(); int start = 0; // 匹配的起始位置 int end = 0; // 匹配的结束位置 TrieNode node = root; for (int i = 0; i < text.length(); i++) { char c = text.charAt(i); if (node.containsKey(c)) { if (start == 0) { start = i; // 记录匹配的起始位置 } node = node.get(c); if (node.isEndOfWord()) { // 匹配到敏感词 end = i + 1; // 记录匹配的结束位置 } } else { if (end > start) { // 将敏感词替换为 * result.append("*"); } else { result.append(c); } // 重置状态 node = root; start = 0; end = 0; } } if (end > start) { result.append("*"); } else { result.append(text.substring(start)); } return result.toString(); } private static class TrieNode { private TrieNode[] children; private boolean isEndOfWord; public TrieNode() { children = new TrieNode[26]; isEndOfWord = false; } public void put(Character c, TrieNode node) { children[c - 'a'] = node; } public boolean containsKey(Character c) { return children[c - 'a'] != null; } public TrieNode get(Character c) { return children[c - 'a']; } public void setEndOfWord(boolean isEndOfWord) { this.isEndOfWord = isEndOfWord; } public boolean isEndOfWord() { return isEndOfWord; } } public static void main(String[] args) { SensitiveWordFilter filter = new SensitiveWordFilter(); // 添加敏感词 filter.addSensitiveWord("敏感词1"); filter.addSensitiveWord("敏感词2"); String text = "这是一段包含敏感词1和敏感词2的文本。"; String filteredText = filter.filter(text); System.out.println(filteredText); // 输出:这是一段包含******和******的文本。 } } ``` 以上代码实现了一个基于Trie树的敏感词过滤器。您可以根据需要,自定义敏感词库和替换字符,以满足具体的应用场景。 ### 回答3: 使用Java实现文本的敏感词过滤可以采取以下步骤: 1. 创建一个敏感词库,包含需要过滤敏感词列表。可以使用数组、列表或者哈希表等数据结构保存敏感词。 2. 读取待过滤的文本内容。 3. 遍历文本内容,逐个字符或单词地进行匹配。 4. 对于每个字符或单词,与敏感词库进行比对。可以使用字符串匹配算法,如KMP算法或Boyer-Moore算法,提高匹配效率。 5. 如果匹配到敏感词,则进行相应的处理,如替换、移除或标记。 6. 继续遍历文本内容,直到结束。 7. 返回处理后的文本内容。 例如,假设敏感词库包含"敏感词1"和"敏感词2",待过滤的文本内容为"这是一个包含敏感词1和敏感词2的文本",则过滤后的文本内容可能为"这是一个包含**和**的文本"。 实现时,可以封装一个敏感词过滤工具类,提供接口供调用。该工具类可以根据需求设置是否开启过滤、添加新的敏感词、清空敏感词库等功能。 需要注意的是,敏感词过滤是一个繁琐的工作,需要不断更新敏感词库,并考虑到词语变形、音近字、排列组合等情况,以提高过滤的准确性和效果。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

诸锬泽Jemima

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值