创新实训-不同法律模型的比较

作为专业领域模型,需要有以下关键点:

1.生成回答精确,没有歧义,在任何一个专业领域,有些仅仅替换一个词就可以影响其中表达的含义,有可能会导致巨大的不同的结果,例如,定金和订金在中文只有一字之差,但它们在合同法中的含义和法律效力却完全不同


2.理解和区分专业术语,很多概念只出现在对应的专业领域,例如台区,即使是广泛使用的词汇,其含义在不同的专业领域也是不同的,因此要在具体的句子情景中表达出不同的含义,

3.能够识别分析专业场景的实际事件,现实世界中情景总是复杂多样的,模型需要具备法律术语和应用专业领域数据来分析具体问答能力,为了能够实现这些能力,可以使用LLaMa模型来具体实现这些功能

4.注入专业领域的知识,收集大量的专业领域原始文本,来让模型进行无监督训练学习。


5.训练学习特定领域的技能,有监督微调模型,教模型如何用适当的知识来解决特定领域的任务。


6.用外部知识进行增强,为了使模型能够更准确和精准回答,另外引入一个信息检索模块,在生成每个回复前,首先利用用户的查询和上下文信息来检索相关的标准信息,然后在这些专业领域的文章基础上做出回答。
 

法律大模型比较

LawGPT-zh(中文法律大模型)利用ChatGPT清洗CrimeKgAssitant数据集,并结合中华人民共和国法律手册上最核心的9k法律条文进行微调,主要应用于法律问答、文本生成等。其基于ChatGPT的技术,结合中文法律数据,提供中文法律领域的专业服务。

LaWGPT在通用中文基座模型(如Chinese-LLaMA、ChatGLM等)的基础上,扩充法律领域专有词表、大规模中文法律语料进行预训练。应用场于法律领域对话问答、中国司法考试数据集进行指令精调。该模型强调法律领域的基础语义理解能力,通过对话问答和司法考试数据集进行微调,提高模型对法律内容的理解和执行能力。

Lawyer LLaMA由北大团队出品,首先在大规模法律语料上进行continual pretraining,然后利用中国国家统一法律职业资格考试客观题的分析和对法律咨询的回答进行指令微调。应用于法律咨询、法律考试等。该模型系统学习中国的法律知识体系,并借助ChatGPT收集的数据对模型进行微调,使模型能够将法律知识应用到具体场景中。北京大学信息工程学院助理教授袁粒带领的团队开发了名为“ChatLaw”的法律大模型。这个模型旨在帮助对法律知识有限的普通人获得初步的法律建议,并帮助他们完成分析证据、起草诉状等工作。ChatLaw 在法条输出正确率和法律建议满意度方面表现较好。

LexiLaw基于ChatGLM-6B架构,通过法律指令微调数据集(包括问答、书籍概念解释、法条内容等)进行微调。应用于法律问答、法律文书生成等。其基于ChatGLM的先进架构,通过法律领域的微调数据集,提高模型在法律领域的专业性和准确性。

通用大模型(如GPT系列、BERT系列)在多个领域和任务上表现良好,具有强大的语言理解和生成能力。但在法律领域,由于法律的高度专业性和准确性要求,通用大模型可能无法提供足够专业和准确的回答。

清华大学基础模型研究中心和中关村实验室发布了《SuperBench 大模型综合能力评测报告》,对 14 个海内外代表性模型进行了测试。评测结果显示,GPT-4 系列模型和 Claude-3 等国外模型在多个能力上领先,而国内头部大模型 GLM-4 和文心一言 4.0 也表现亮眼,与国际一流模型水平接近。

复旦大学数据智能与社会计算实验室(FudanDISC)发布了基于大语言模型驱动的中文智慧法律系统 DISC-LawLLM。该系统面向不同用户群体提供多样的法律服务,并构建了评测基准 DISC-Law-Eval,在法律大语言模型的评测中表现优于现有模型。

法律大模型作为人工智能技术在法律领域的应用,为法律工作提供了更加智能化、高效化的解决方案。目前,国内法律大模型整体的处理效率较高,答案输出过程较为流畅。然而,与国外大模型相比,国内大模型在问题归纳能力及文书模板应用能力上还存在一定差距,生成的法律文书规范性较差,对各类问题生成的答案准确率一般。因此,未来需要进一步加强法律大模型的研究和开发,提高其专业性和准确性。

  • 33
    点赞
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值