python实现文本查重系统_GitHub - fanghon/antiplag: 作业查重软件，它实现了程序代码、文档文本、图片之间的相似度检查。a code-similarity, text-si...

antiplag 程序代码、文档、图片作业相似度检查软件

软件主要检查、比较学生提交的电子档作业之间的相似度，能对多种编程语言(如java、c/c++、python等)、多种格式(txt、doc、docx、pdf等)的中英文、简繁体文档之间的文本、多种格式(png、jpg、gif、bmp等)的图片相似度进行比较分析，输出相似度高的代码、文本、图片，进而辅助发现学生之间互相抄袭的行为。

需求

安装

直接下载或clone项目源代码版，或下载软件的发布版releases。

源代码版可以直接导入eclipse，主入口类是gui.plag.edu下的PlagGUI。

系统在window10，jdk11 64位下开发、运行。

使用

在发布版子目录下，双击run.bat批处理程序，就能启动程序。使用说明参见发布版子目录下的软件使用文档。程序主界面如下：

原理

系统采用的主要技术是字符串相似度比较算法、代码词法语法解析、自然语言处理(nlp)中的分词、图片相似度比较算法。

程序类文本的相似度比较基于3个开放系统：

一是基于网络服务的MOSS系统(斯坦福大学开放的支持多种编程语言代码相似度比较的系统);

二是本地执行的sim系统(支持java、c等语言的文本相似度比较)。

三是本地执行的jplag系统(支持java、c/c++、python等语言的文本相似度比较)。

本系统在它们基础上进行了二次开发和封装，针对moss系统，开发出了客户端存取模块，实现了代码文件提交、结果获取和解析、结果排序等功能；针对sim和jplag，则将其集成到系统中，在moss因网络故障等原因不可用时，可作为替代产品使用。

中英文文档作业相似度的比较提供了两种算法：

第一种是基于shinglecloud算法(一种基于文本指纹的、语言无关的相似度快速计算方法)，文档主要处理过程如下：

使用tika读取不同格式(txt、doc、docx、pdf、html等)不同编码文件中的文本内容，并将其转换成能统一处理的文本；

使用hanlp对文本进行预处理、分词；

使用shinglecloud算法计算文本之间的相似度；

根据相似度排序，输出比较结果。

第二种是基于jplag的GST算法，对其功能进行了扩展，增加的“doc”语言类型，可以对各种文档进行相似度计算，并提供基于网页的可视化比对功能。

主要采用了图片phash指纹相似度比较算法。

参考文献：

TODO

将jplag整合进系统。已实现。

支持html，jsp文件代码的查重。

支持图片文件查重。已实现。

开发web版作业查重软件。已实现，请参考mooyyu

支持存储以往作业文档，支持基于数据库的作业查重。

源于开源，还于开源，开源是美德，加星也是美德 😄 。

更新情况

2019.12.1 使用hanlp作为分词组件，支持pdf、html文件文本的查重，修复若干bug，发布v2.8.6版。

2019.12.3 扩展jplag功能，提供“doc”语言类型，实现了对多种格式文档文本的相似度计算及可视化比对功能。更新使用帮助，测试数据，发布v2.8.8版。

2019.12.25 实现图片相似比较功能，使用phash，实现了对多种格式图片的相似比较。更新测试数据，文档，发布v3.0.0版。