报关资料涉及到文件类型很多,主要包括报关草单、发票、装箱单、合同、申报要素等。而且即使是同一单据,格式也是千变万化,多种多样,这种情况下用模板匹配肯定不会取得很好的效果,需要运用深度学习等方法才能精确的识别出里面的内容。
首先要对报关资料的每一页进行分类。因为客户提供的的报关资料,可能包含大量无用的文档,过滤这些文档,会大大提高后续的识别销量。我这里主要识别了报关草单,报关草单标体,发票,装箱单,申报要素,合同,其他类型。
下面就是要对页面里的内容进行提取。我采取的方法是对每个页面上字符进行标注,建立一个大概1万个样本的数据集。然后使用transformer对每个字符进行归类训练。这里为了取得最佳效果,我还对1万个样本做了增强,扩充到10万个左右。
接下来还要把不同页面解析出的内容合并在一起,有很多业务相关的逻辑和细节,这里就不展开了。
再接下来还要解析申报要素。申报要素的内容很多,不能通过归类解决,那就用generative model吧。用大语言模型试了一下效果还不错,只是不能给出结果的来源位置。或许后面再做一些匹配的处理也是能实现定位的。
最后还要对解析出的结果进行标准化处理。比如港口填了SH, 可以通过语义匹配标准的数据,要转换的字段很多。
整个项目还是挺麻烦的,包括数据的收集,标注,海关编码的更新,模型的不断调优。最终取得了不错的效果。有需要的同学可以直接下载客户端体验一下,
需要接口调用的小伙伴也可以联系我哦。