助力教育----智慧教育平台

Relax_Dancixi

已于 2024-02-24 10:19:06 修改

阅读量764

点赞数 13

文章标签： python mysql json 数据挖掘 opencv 语音识别人工智能

于 2024-02-24 10:02:06 首次发布

本文链接：https://blog.csdn.net/Relax_Dancixi/article/details/136268288

版权

项目概述

项目背景

人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是新一轮科技革命和产业变革的重要驱动力量。

人工智能是智能学科重要的组成部分，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能，但能像人那样思考、也可能超过人的智能。

人工智能是一门极富挑战性的科学，从事这项工作的人必须懂得计算机知识，心理学和哲学等。人工智能是包括十分广泛的科学，它由不同的领域组成，如机器学习，计算机视觉等等。总的来说，人工智能研究的一个主要目标是使机器能够胜任一些通常需要人类智能才能完成的复杂工作。但不同的时代、不同的人对这种“复杂工作”的理解是不同的。 2017年12月，人工智能入选“2017年度中国媒体十大流行语”。 2021年9月25日，为促进人工智能健康发展，《新一代人工智能伦理规范》发布。

1956年夏季，以麦卡赛、明斯基、罗切斯特和申农等为首的一批有远见卓识的年轻科学家在一起聚会，共同研究和探讨用机器模拟智能的一系列有关问题，并首次提出了“人工智能”这一术语，它标志着“人工智能”这门新兴学科的正式诞生。IBM公司“深蓝”电脑击败了人类的世界国际象棋冠军更是人工智能技术的一个完美表现。

从1956年正式提出人工智能学科算起，50多年来，取得长足的发展，成为一门广泛的交叉和前沿科学。总的说来，人工智能的目的就是让计算机这台机器能够像人一样思考。如果希望做出一台能够思考的机器，那就必须知道什么是思考，更进一步讲就是什么是智慧。什么样的机器才是智慧的呢？科学家已经作出了汽车、火车、飞机和收音机等等，它们模仿我们身体器官的功能，但是能不能模仿人类大脑的功能呢？我们也仅仅知道这个装在我们天灵盖里面的东西是由数十亿个神经细胞组成的器官，我们对这个东西知之甚少，模仿它或许是天下最困难的事情了。

当计算机出现后，人类开始真正有了一个可以模拟人类思维的工具，在以后的岁月中，无数科学家为这个目标努力着。如今人工智能已经不再是几个科学家的专利了，全世界几乎所有大学的计算机系都有人在研究这门学科，学习计算机的大学生也必须学习这样一门课程，在大家不懈的努力下，如今计算机似乎已经变得十分聪明了。例如，1997年5月，IBM公司研制的深蓝（DEEP BLUE）计算机战胜了国际象棋大师卡斯帕洛夫（KASPAROV）。大家或许不会注意到，在一些地方计算机帮助人进行其它原来只属于人类的工作，计算机以它的高速和准确为人类发挥着它的作用。人工智能始终是计算机科学的前沿学科，计算机编程语言和其它计算机软件都因为有了人工智能的进展而得以存在。

2019年3月4日，十三届全国人大二次会议举行新闻发布会，大会发言人张业遂表示，已将与人工智能密切相关的立法项目列入立法规划。

《深度学习平台发展报告(2022)》认为，伴随技术、产业、政策等各方环境成熟，人工智能已经跨过技术理论积累和工具平台构建的发力储备期，开始步入以规模应用与价值释放为目标的产业赋能黄金十年。

2023年4月，美国《科学时报》刊文介绍了正在深刻改变医疗保健领域的五大领先技术：可穿戴设备和应用程序、人工智能与机器学习、远程医疗、机器人技术、3D打印。

项目来源

目前，人工智能对于技术已经渐渐在尝试使用在人民生产生活的各个方面，目前我国人工智能应用的领域还比较广泛，主要包括家居、制造、金融、医疗、安防、交通、零售、教育和物流等多领域。当代学生在完成作业时，常常会遇到各种困难。题型多变、上传原题很复杂，这些问题都会对学生的学习效率和兴趣产生影响。传统的补习费用高昂，使得一些家庭难以承担，这也成为了一个严峻的问题。如何解决这些问题，提高学生的自主学习能力，是我们需要思考的问题。

为此，我们提出了一个新的解决方案：通过AI辅导学生完成作业，提高学生的学习效率与自主学习能力。我们的AI软件可以帮助学生解决作业中的各种问题，包括题型多变、上传原题复杂等问题。我们的软件还可以根据学生的学习进度和能力，为学生提供个性化的学习建议和辅导方案，让学生更快地掌握知识点。

同时，我们的软件免费，不再需要家长支付高昂的补习费用。学生可以在家中使用我们的软件，随时随地获得帮助，提高学习效率和兴趣。

更重要的是，我们的软件不仅仅是一个简单的答案机器，更在于培养学生的自主学习能力。通过帮助学生克服作业难题，培养他们的解决问题的能力和自主学习能力，让他们在学习中更加独立和自信。

总之，我们的AI软件可以提供更加全面、高效、亲民的学习方案，为学生和家长带来更好的学习体验。我们相信，通过我们的努力，我们可以在教育领域做出更大的贡献。

团队介绍

团队成员
姓名	专业	职责
徐豪	区块链技术与应用	Python开发、项目负责人、市场调研、项目文档
黎沛钊	区块链技术与应用	大数据模型应用与开发
谢鸿祥	区块链技术与应用	Python开发、大数据模型应用与开发
涂济炜	区块链技术与应用	Python开发
丁炫景	区块链技术与应用	Python开发、大数据模型应用与开发
指导老师
林伟鹏

需求分析和概要设计

需求分析

1.1设计目标

帮助使用者更好的进行学习作业，提高其学习效率和学业成果，从而使学者更好的学习，提高自信心，实现智能化教学，指挥教育平台设计的主要目的包括：

->助力教育大业发展，响应国家政策，使学习更加简单，人人有一个私人教师不再是一个幻想。
->实现用户在实际使用中，记录用户的行为，用于系统对于总体的评判有个更加具体、理性的回应。
->开发一个基于教育的智能回答、评析的教学系统。
->更快速便捷的拍题功能，识别用户上传的图片可直接进行题目搜素

1.2关键功能

智慧教育平台的关键功能有：

->用户智能语音交互式体验
->大数据记录用户的信息和行为，实现个性化系统
->教学与评析各方面问题，包括但不仅限于语音表达与理解、学科知识理解和课程辅导和逻辑推理与培养的人机混合智能系统
->图片提取文字技术能力
->智能情感分析与解答能力
->智能数据分析
->远程调用系统

1.3关键技术

智慧教育平台的关键技术有：

->使用Langchain调用多种大模型功能
->使用Intel OpenVINO部署模型
->使用intel BigDL-LLM 进行模型优化

1.4环境要求

参数指标	说明		备注
硬件配置	CPU	Intel(R) Core(TM) i9-13900HX CPU
	硬盘	1tb可用磁盘空间
	内存	16.00GB
	显示屏	24英寸，分辨率：1920x1080。支持2D模式显示。对比度：800:1或更高性能；颜色≥16700000。像素缺陷：≤7。
开发环境	Python	Python 3.9.18
开发环境	OPENVINO	OPENVINO JUPTER NOTEBOOK
系统	Windows	windows11

流程设计

->在huggingface与openAI官网寻找合适的大模型
使用Langchain调用多种大模型功能
->使用Intel OpenVINO部署模型
->使用intel BigDL-LLM 进行模型优化

详细设计

本章的主要内容是对智慧教育平台的技术模块做出详细的介绍，并针对每一个功能模块设计相对应的流程图，对项目技术进行整合，给出了整体的流程。

开发架构

智慧教育平台的主要分为如下几个功能:

-> 题目查询与作业批改
-> 个性化私教
-> 情感导师
-> 自动出题

1.1题目查询与作业批改

题目查询与作业批改是我们智慧教育平台中的重要功能。该功能的实现离不开大型预训练模型和自然语言处理技术的支持。我们选择了GPT-3等先进模型作为基础，以确保AI软件能够准确理解和处理输入的文本信息。

在技术上，我们结合了文本相似度匹配算法和自动评分算法。这些算法的应用使得题目查询和作业批改更加高效和精准。对于题目查询功能，学生只需输入问题描述或关键词或上传图片，智慧教育平台即可迅速搜索相关信息并给出答案或解析，帮助他们更好地理解知识点，上传的图片无需先人为转换文字，大模型会自动识别图片并进行搜题。而作业批改功能则能够自动检查作业的正确性，给出评分和建议，帮助学生及时发现和纠正错误，提升作业质量和学习效果。

综上所述，题目查询与作业批改功能融合了先进的预训练模型、自然语言处理技术和机器学习算法，为学生提供了便捷而准确的学习辅助工具。这一功能将极大地促进学生的学习进步，提升教育教学质量，助力学生取得更好的学习成绩。

1.2个性化私教

我们的研究致力于提升作文评估的精细度和全面性，以帮助学生提升写作技能。结合教育专业人员的专业知识，我们开发了一种语言模型，能够对作文进行综合评分、方面级别评分，并提供详细的内容、表达、段落和整体评价。此外，该模型还能识别优秀句子，突出优势并指出需要改进的地方，为学生的写作技能提供个性化指导，确保他们在各个方面都能获得及时和专业的支持。

在教育领域，准确性和实时更新的知识至关重要。针对现有生成式语言模型可能存在的信息捏造和知识滞后问题，我们提出了一种检索增强的开放问答方法。通过利用实时更新的互联网语料库作为外部知识源，使语言模型能够自主评估检索信息的相关性，回答问题并决定纳入哪些信息来生成响应。经过广泛的实验分析，我们发现这种方法在消除信息捏造和保持最新知识方面表现出显著优势。

为了实现更自然的人机交互，我们收集了大量双语指导调优数据，并从多个高质量的多轮对话数据源获取信息，以确保我们的模型能够有效参与和维持有意义的多轮对话，并实现个性化的回应。我们的目标不仅是简单地提供答案，而是通过苏格拉底式的对话方式，激发学生独立思考，培养其高级认知能力和自主学习能力，提高批判性思维和创新能力。最终，我们将对学生的各种能力进行评估，并提供相应的规划路线，以最大限度地发挥其潜力。

1.3私人情感导师

青少年和儿童由于认知发育不成熟，面临着更严重的心理压力。然而，目前的llm通常提供通用的建议，不能很好地适应具体的情感问题。为了解决这个问题，我们开发了一个基于情绪心理学的心理探究框架，如理性情绪行为疗法(Rationalemotional Behavior Therapy, REBT)和ABC理论(Ellis, 1991)。微调后的模型可以模拟心理咨询师，为用户提供个性化诊断和情感支持。EduChat促进对用户情感状态的更深入的了解，并提供准确和专业的帮助。

数百本心理学书籍中精心挑选了60部名著，包括发展与教育心理学、社会心理学、行为心理学、咨询心理学等15个心理学分支。第二类包括各种心理实践，提供心理咨询和情感支持对话的实践案例。通过将多样化的基础数据纳入预训练，该模型对教育和心理学有了更深的理解，使其能够产生更有帮助的响应。

1.4自动出题

自动出题是一种基于人工智能技术的应用，可以针对不同的领域或学科，自动生成各种类型的试题。这个功能可以广泛应用于教育行业、招聘考试等领域。

为了实现自动出题功能，我们使用了大型语言模型，比如OpenAI GPT系列、BERT等。这些模型具有强大的自然语言处理能力，能够自动识别各种语言结构和语法规则，并生成符合语言逻辑的句子和段落。

在技术方面，我们采用了基于知识图谱的语义匹配算法，以及基于深度学习的序列生成模型。通过将知识图谱中的知识点与题目类型进行关联，可以快速生成相应领域的试题。同时，序列生成模型可以根据给定的条件和规则，自动生成符合要求的试题。

自动出题功能可以生成不同类型的试题，包括选择题、判断题、填空题、简答题和论述题等。同时，它还可以生成不同难度级别的试题，根据学生的能力水平进行个性化的试题设计。此外，自动出题还可以根据学科特点和考试标准，自动生成满足需求的试卷。

本章小结

本章主要介绍了智慧教育平台的具体功能，用户能得到一段类似真实与人接触的体验，应用同时涵盖了题目查询、个性化私教、情感导师和自动出题以及开放式问答等功能，具有完善的功能架构。并对各个流程模块进行了简单的剖析，针对不同的功能场景给出不同的流程图。包括对数据结构的定义和描述给出了完整的图和描述。实际效果可观看提供的演示视频。

测试报告

1、测试概述

EduChat是一个基于大规模语言模型（LLM）的教育领域聊天机器人系统。

EduChat目标：支持个性化、公平和富有同情心的智能教育，为教师、学生和家长提供服务。在心理学和教育理论的指导下，它进一步加强了基于现有基本 LLM 的教育功能，如开放式问题回答、作文评估、苏格拉底式教学和情感支持。通过在教育语料库上进行预训练来学习领域特定的知识，并通过在设计的系统提示和指令上进行微调来刺激各种技能的使用

此测试报告介绍数字碳链在不同测试阶段中的测试计划和实现情况，纪录所有的缺陷和错误，并提供了相应的解决方案。通过此次测试，我们将为您带来更好的人工智能技术体验。

2、测试范围

2-1 用户管理

用户注册和登录功能
用户资料管理

2-2 主要应用功能测试

开放式问答
情感支持
课程辅导
高考咨询
职业规划
作业批改
启发式教学
自动出题

2-3 扩展功能测试

图片识别文字自动搜题
语音转文字自动搜题
应用内语音小助手

2-4 用户的个性化分类

用户的大体分类
智能识别用户的学习需求

3、访问项目

3-1 登录界面

3-2 注册界面

3-3 问答界面

功能页未展开界面

功能页展开界面

注册界面

登录界面

4、功能模块划分

功能模块	模块划分	主要功能	描述
智能教学平台	登录	入口	企业账号登录进入平台。
	首页	搜题	点击“首页”，查看搜题功能是否正常实现
	首页	语音助手	点击“语音助手”图标，查看语音助手功能是否正常实现
	问答对话框	开放式问答	点击“开启对话框”，查看问答功能是否正常实现。
		情感支持	点击“开启对话框”，查看情感支持功能是否正常实现。
		课程辅导	点击“开启对话框”，查看课程辅导功能是否正常实现。
		高考咨询	点击“开启对话框”，查看高考咨询功能是否正常实现。
		职业规划	点击“开启对话框”，查看职业规划功能是否正常实现。
		作业批改	点击“开启对话框”，查看作业批改功能是否正常实现。
		启发式教学	点击“开启对话框”，查看启发式教学功能是否正常实现。
		自动出题	点击“开启对话框”，查看自动出题功能是否正常实现。
智能教学平台后台	登录	入口	监管机构账号登录进入平台。
	搜索信息	用户数据	点击“用户管理”查看用户的信息列表，以及详细数据。
	搜索信息	搜题管理	点击“搜题管理”对用户的提问进行审批，对违规用户进行相应处理。

产品分析及应用

人工智能技术发展概述

从始至此，人工智能(AI)便在充满未知的道路探索，曲折起伏，我们可将这段发展历程大致划分为5个阶段期：

起步发展期：1943年—20世纪60年代
反思发展期：20世纪70年代
应用发展期：20世纪80年代
平稳发展期：20世纪90年代—2010年
蓬勃发展期：2011年至今

1.1 起步发展期：1943年—20世纪60年代

人工智能概念的提出后，发展出了符号主义、联结主义(神经网络)，相继取得了一批令人瞩目的研究成果，如机器定理证明、跳棋程序、人机对话等，掀起人工智能发展的第一个高潮。

1943年，美国神经科学家麦卡洛克（Warren McCulloch）和逻辑学家皮茨（Water Pitts）提出神经元的数学模型，这是现代人工智能学科的奠基石之一。

1950年，艾伦·麦席森·图灵（Alan Mathison Turing）提出“图灵测试”（测试机器是否能表现出与人无法区分的智能），让机器产生智能这一想法开始进入人们的视野。

1.2 反思发展期：20世纪70年代

人工智能发展初期的突破性进展大大提升了人们对人工智能的期望，人们开始尝试更具挑战性的任务，然而计算力及理论等的匮乏使得不切实际目标的落空，人工智能的发展走入低谷。

1974年，哈佛大学沃伯斯(Paul Werbos)博士论文里，首次提出了通过误差的反向传播(BP)来训练人工神经网络，但在该时期未引起重视

1.3 应用发展期：20世纪80年代

人工智能走入应用发展的新高潮。专家系统模拟人类专家的知识和经验解决特定领域的问题，实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破。而机器学习(特别是神经网络)探索不同的学习策略和各种学习方法，在大量的实际应用中也开始慢慢复苏。

1980年，在美国的卡内基梅隆大学(CMU)召开了第一届机器学习国际研讨会，标志着机器学习研究已在全世界兴起。

1980年，德鲁·麦狄蒙（Drew McDermott）和乔恩·多伊尔（Jon Doyle）提出非单调逻辑，以及后期的机器人系统。

1.4 蓬勃发展期：2011年至今

随着大数据、云计算、互联网、物联网等信息技术的发展，泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展，大幅跨越了科学与应用之间的技术鸿沟，诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了重大的技术突破，迎来爆发式增长的新高潮。

2011年，IBM Watson问答机器人参与Jeopardy回答测验比赛最终赢得了冠军。Waston是一个集自然语言处理、知识表示、自动推理及机器学习等技术实现的电脑问答（Q&A）系统。
2012年，Hinton和他的学生Alex Krizhevsky设计的AlexNet神经网络模型在ImageNet竞赛大获全胜，这是史上第一次有模型在 ImageNet 数据集表现如此出色，并引爆了神经网络的研究热情。

大数据技术发展概述

2.1大数据的概念

随着大数据时代的到来，“大数据”已经成为互联网信息技术行业的流行词汇。关于什么是大数据这个问题，大家比较认可大数据的“4V”说法。大数据的四个V，即说的是大数据的四个特征，分别是数据量大（Volume）、数据类型繁多（Variety）、处理速度快（Velocity）、价值密度低（Value）。

2.2大数据的应用

大数据无处不在，包括金融、汽车、零售、餐饮、电信、能源、政务、医疗、体育、娱乐等在内的社会各行各业都已经融入了大数据的印迹，表1-4是大数据在各个领域的应用情况。

大数据的应用领域：

金融行业大数据在高频交易、社交情绪分析和信贷风险分析三大金融创新领域发挥重要作用

汽车行业利用大数据和物联网技术的无人驾驶汽车，在不远的未来将走入我们的日常生活

互联网行业借助于大数据技术，可以分析客户行为，进行商品推荐和有针对性广告投放

餐饮行业利用大数据实现餐饮O2O模式，彻底改变传统餐饮经营方式

电信行业利用大数据技术实现客户离网分析，及时掌握客户离网倾向，出台客户挽留措施

能源行业随着智能电网的发展，电力公司可以掌握海量的用户用电信息，利用大数据技术分析用户用电模式，可以改进电网运行，合理地设计电力需求响应系统，确保电网运行安全

物流行业利用大数据优化物流网络，提高物流效率，降低物流成本

城市管理可以利用大数据实现智能交通、环保监测、城市规划和智能安防

生物医学大数据可以帮助我们实现流行病预测、智慧医疗、健康管理，同时还可以帮助我们解读DNA，了解更多的生命奥秘

体育和娱乐大数据可以帮助我们训练球队，决定投拍哪种题材的影视作品，以及预测比赛结果

安全领域政府可以利用大数据技术构建起强大的国家安全保障体系，企业可以利用大数据抵御网络攻击，警察可以借助大数据来预防犯罪

个人生活大数据还可以应用于个人生活，利用与每个人相关联的“个人大数据”，分析个人生活行为习惯，为其提供更加周到的个性化服务。

3、智慧教育平台

当今世界，以人工智能、区块链、大数据等为代表的信息技术催生了新业态、新模式，固有的知识传授方式、获取方式已制约了人类破解未知世界的能力，如何满足社会需求、探索新的教育模式，是这个时代为教育事业提出的全新课题。

首先，注重学生的个性化发展。马克思指出，“他们的需要即他们的本性”，也就是说人的需要即人的本性。传统式教育侧重统一化、标准式教学，受教育者的个性需求在其中往往不被重视。然而随着信息时代的到来，面对层出不穷的新生事物，受教育者的个性化诉求逐步强烈，他们希望得到既有特色，又能满足其求知欲的知识。智慧教育的出现能够为这一问题提供解决途径，它可借助人工智能、大数据等信息技术，以合理合法的方式收集并分析受教育者的偏好及诉求，在此基础上，教育者可根据数据反馈，对每名受教育者的特长、优势等作出判断，并据此深度挖掘他们的发展潜力，形成个性化发展，实现有教无类、因材施教的教育诉求。

其次，注重学生的自由发展。在云平台、云数据等“外力”的支撑下，智慧教育表现为物联化、智能化的教育形态，可将师生从面对面、点对面的教育关系中解脱出来，不仅扩大了教育主体范围，同时也拓宽了受教育者追求自由选择的渠道。当前智慧教育虽取得不小成效，但仍存在网络授课内容单一、课堂沉浸感不足等现象。究其原因，除授课理念陈旧，更多的是源于使用信息技术手段的僵化，而这正是智慧教育需要着重解决的。智慧教育要把落脚点放在“人”，充分尊重受教育者的自由性、主体性，灵活运用并将信息技术的优势发挥到最大化，强调教与学的“双向”输送，促进受教育者有价值的成长、教育者有价值的成材。

最后，注重学生的全面发展。教育主体的双方都具有现实性和社会性的特点，只有将国家发展和社会进步作为成长目标，明晰正确教育方向，才能真正实现受教育者的全面发展。智慧教育正是以人的社会属性为基础、以人的全面发展为根本诉求的新型教育模式。智慧教育借助信息平台进行探究式教学、体验式教学、互动式教学等探索，推动实现价值理性与工具理性的平衡，通过强化信念教育和素质教育，为受教育者塑造正确的道德观念，寓价值观引导于知识传授之中，避免将信息技术沦为传统式教学的工具，从根本上落实立德树人根本任务，真正实现学生有价值的全面成长。

项目总结

智慧教育平台是一个基于llm的智能教育聊天机器人系统EduChat。我们的目标是为老师、学生和家长提供个性化、公平和富有同情心的支持。通过运用心理学和教育理论，促进国家以智慧教育作为教育信息化的“高端形态”，以智能技术为牵引变革教育学的关系，推动实现教育现代化及“全面发展”的人才培养目标。

智慧教育平台的关键功能包括：开放式问答、情感支持、课程辅导、高考咨询、职业规划、作业批改、启发式教学和自动出题等功能。其中开放式问答和用户个性化推荐是其中不可或缺的关键功能之一。

智慧教育平台采用了英特尔的Big DL-LLM和open vino平台，保证了数据的安全性和高速的传输，保障了数据的稳定性和可靠性。

智慧教育平台的设计目标是助力智慧教育，实现“教育+信息化”，其核心是以人为本的教育，强调对学生综合素质的培养，弥补弱势学生群体教育资源的缺憾。信息技术更容易嵌入教育场景中，丰富教育形式，实现基于大数据的教育评估，为每一位学生选择适合的学习任务，为促进教育公平、缓解师资压力等难题提供了新思路。

智慧教育平台平台还具有很强的数据报告分析功能，能够让用户更好地了解自身的情况，并制定相应的发展方案。同时，该平台还提供奖罚机制来鼓励用户的学习行为，推动学生更积极地参与到学习中来。

总之，智慧教育平台是一款功能完备、安全性高、易用性强的新型教育平台。通过智慧教育平台，可以帮助用户更好地理解和学习其自身的情况，从而实现多元化发展和公平教育的目标。

参考文献

参考文献及大模型

@article{DBLP:journals/corr/abs-2111-15664,
author = {Geewook Kim and
Teakgyu Hong and
Moonbin Yim and
Jinyoung Park and
Jinyeong Yim and
Wonseok Hwang and
Sangdoo Yun and
Dongyoon Han and
Seunghyun Park},
title = {Donut: Document Understanding Transformer without {OCR}},
journal = {CoRR},
volume = {abs/2111.15664},
year = {2021},
url = {https://arxiv.org/abs/2111.15664},
eprinttype = {arXiv},
eprint = {2111.15664},
timestamp = {Thu, 02 Dec 2021 10:50:44 +0100},
biburl = {https://dblp.org/rec/journals/corr/abs-2111-15664.bib},
bibsource = {dblp computer science bibliography, https://dblp.org}
}

@article{zeng2022glm,
title={Glm-130b: An open bilingual pre-trained model},
author={Zeng, Aohan and Liu, Xiao and Du, Zhengxiao and Wang, Zihan and Lai, Hanyu and Ding, Ming and Yang, Zhuoyi and Xu, Yifan and Zheng, Wendi and Xia, Xiao and others},
journal={arXiv preprint arXiv:2210.02414},
year={2022}
}
@inproceedings{du2022glm,
title={GLM: General Language Model Pretraining with Autoregressive Blank Infilling},
author={Du, Zhengxiao and Qian, Yujie and Liu, Xiao and Ding, Ming and Qiu, Jiezhong and Yang, Zhilin and Tang, Jie},
booktitle={Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)},
pages={320--335},
year={2022}
}