惊人现象！AI大模型如何伪造法条

2022年末，美国Open AI工具公司研发的一款聊天机器人程序Chat GPT的亮相，在社会各界引起了巨大震动，迅速吸引了国内外科技巨头的目光。得益于Chat GPT等AI大模型的发布和广泛应用，国内许多科技公司也开发了很多类似的AI大模型。

其中一些AI大模型结合法律法规、司法解释、案例库、合同库等内容，逐渐开发出适于律师等法律人使用的功能。它们通常具有法律问答、合同审查、法律文书智能写作等多种强大功能，能辅助律师等法律人更充分地分析法律问题，提高工作的效率。

但在此之外，不少用户在使用过程中发现，这些AI大模型却存在着“伪造法律条文”的现象，让不少法律人在使用过程中提心吊胆。

01、AI法律大模型伪造法条？

01 Chat GPT

自2022年问世以来，Chat GPT一直引领着全球聊天机器人程序的发展潮流。它不仅能够针对用户提出的问题生成精准的答复，而且能够依据聊天上下文进行智能互动，甚至还支持用中文为用户提供法律问题的问答服务。目前，Chat GPT已不断更新至4.0版本。但饶是4.0版，据用户反应仍存在“伪造法律条文”的现象。

以“请问《中华人民共和国婚姻法》第十条规定，“离婚的，自离婚注册之日起满三百天的男女，方准再婚”，这是真的吗？为什么？”提问为例，事实上自《民法典》出台以后，《婚姻法》已经废止，有关婚姻家庭的内容就作为独立一编的内容纳入《民法典》中。

同时，《民法典》中也并没有所谓的关于“离婚后三百天才能重新登记结婚”的相关规定。所以，从根本上说，这条法律条文就是Chat GPT为例回答用户的提问而**“伪造”**出来的。

02 大模型A

大模型A是一款目前也成为较受瞩目的AI大模型。虽然具有多数AI法律大模型，诸如法律问答、合同审查等多种强大功能，但似乎也面临着伪造法律条文的问题。

在上述图片的回答中，我们不难看出，对于“《中华人民共和国婚姻法》第十条”的相关规定，AI的回答先是指明该条内容确实存在，但认为没有规定具体时间限制，随后又成并未“明确提出”。最后直接提出“真正的法律规定是离婚后需要在300天内办理再婚登记手续，而不是在离婚注册之日起满三百天后才准许再婚”的观点，直接坐实伪造法条的“罪名”。

03 大模型B

大模型B号称具备深厚的法律领域理解和推理能力，致力于为广大用户提供专业化、智能化和全方位的法律服务。

然而，面对相关问题的考验，它也不可避免的深陷进了伪造法律条文的泥淖里，基于所提问题，伪造出了关于“再婚冷静期”的相关法律规定。

04 大模型C

大模型C主要为企业提供智能合同管理和审核服务等相关法律服务。

然而，它的智能功能在面对特定法律问题时，其算法的漏洞和误判仍然避免不了伪造法律条文的问题。

05 大模型D

大模型D旨在为司法行业客户以及生态合作伙伴提供行业全面先进的大模型能力服务。

面对相关提问，大模型D同样也掉入了预设的陷阱，虽然指出了《婚姻法》已经被废止的事实，但仍然肯定了相关错误法条的存在。

06 大模型E

大模型E是一款基于 Chat GPT 训练而成的AI模型，定位于智能搜索引擎机器人。

同样以“请问《中华人民共和国婚姻法》第十条规定，“离婚的，自离婚注册之日起满三百天的男女，方准再婚”，这是真的吗？为什么？”的问题来进行提问，这款智能搜索引擎机器人，似乎也甄别不出虚假的法律条文，成了伪造法律条文的“法盲”。

02、伪造法条的背后秘密

为什么这么多AI法律大模型出现伪造法条的情况呢？

那就要从它背后的技术逻辑开始说起了。

目前市面上的多数AI法律大模型，其内容的生成大多基于GPT统计概率模型这一单模型的技术。面对用户提出的问题，往往会抓取一些网络上多数人认同的“高赞回答”作为自己的“观点”，同时如果后台相应的法律条文数据库不全面、更新不及时，就会出现法律条文屈从于“观点”的现象，AI就会根据“观点”来编造相应的法律依据，最后以伪造法律条文的形式表现出来。

不同于以上AI法律大模型，熊猫AI注重知识要点、判断规则和数据集的知识图谱的构建，同时结合BERT逻辑推理模型进行内容的生成，然后利用GPT统计概率模型对输出的答案进行润色，最后对用户的提问进行回答。

在这种GPT+BERT双大模型技术和三重知识图谱的加持下，面对相同的提问，熊猫AI有效的避免了伪造法条情形的出现。

03、治理和解决措施

AI法条伪造涉及到法律真实性和权威性的核心问题。AI大模型的智能功能虽然能够提高法律工作者的效率，但在面对复杂法律问题时，其算法的漏洞和误判仍然不可避免。

当AI大模型误将虚构的法条插入法律文件或合同中时，将导致严重的法律后果，损害当事人的合法权益。因此，法律数智化的发展需要建立在严密的技术逻辑、不断的数据库更新以及严格的监管和规范之上。

对于AI法律大模型的开发者而言，应不断创新，针对目前出现的伪造法条的问题进行溯源，找出问题出现的原因，从源头上解决问题，为用户提供更卓越更优质的服务。

对于律师和法务人员等AI法律大模型的使用者而言，应加强技术审查能力，熟悉AI大模型的运作原理和算法特点，及时发现和纠正法条伪造行为，确保法律文件和合同的准确性和合法性，避免不必要的法律风险。

04、结语

AI法条伪造问题凸显了法律数智化发展中的挑战和风险，但同时也为我们提供了反思和改进的机会。

只有通过加强技术革新，不断提升产品服务质量，我们才能共同探索法律数智化的未来，建设更加公正和安全的法治社会。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】