Hanlp1.7版本的新增功能一览

Hanlp1.7版本在去年下半年的时候就随大快的DKH1.6版本同时发布了,截至目前1.7大版本也更新到了1.7.1了。本篇分别就1.7.0和1.7.1中新增的功能做一个简单的汇总介绍。

HanLP 是由一系列模型与算法组成的 Java 工具包,目标是普及自然语言处理在生产环境中的应用。HanLP 具备功能完善、性能高效、架构清晰、语料时新、可自定义的特点。 在提供丰富功能的同时,HanLP 内部模块坚持低耦合、模型坚持惰性加载、服务坚持静态提供、词典坚持明文发布,使用非常方便,同时自带一些语料处理工具,帮助用户训练自己的模型。

1.7.0更新如下:

新增文本聚类模块(k-means和repeated bisection)

词法分析器新增流水线模式

词法分析器加入规则 enableRuleBasedSegment #991

支持通过 JVM 的启动参数指定 data 路径:java -DHANLP_ROOT=/opt/hanlp 则加载/opt/hanlp/data #983

分词断句支持指定断句颗粒 #1018

CustomDictionary.insert("新词语", "词性标签") 支持省略频次

NeuralNetworkDependencyParser 构造函数接受 Segment

TextRankKeyword 支持构造自任意分词器

优化双数组 trie 树,构建后自动 shrink 到最低内存 #984

修订简繁词典

微调 ngram 和 nr 模型

新数据包 data-for-1.7.0.zip MD5 = 4c396f3039230ddfcef20865264512b1

Portable 版同步升级到 v1.7.0

HanLP v1.7.1 更新内容:

新增可自定义用户词典的维特比分词器 @AnyListen

利用 BufferedOutputStream 加速缓存生成,快37倍

自定义词典兼容含有空格的路径,fix #1025

增加 isCustomNature 方法

使热更新产生的缓存文件包含用户词性,fix #1028

修复可变 DAT 的 entrySet 方法,fix #1038

微调 ngram,简繁等

新数据包 data-for-1.7.1.zip MD5 = 9b8faa7fc7fddb24e27da27bd404126d

Portable 版同步升级到 v1.7.1

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值