2024工业大模型应用报告：

大模型开启人工智能应用新时代

大模型引领人工智能技术创新和应用。自1956年达特茅斯会议(DartouthConference)提出人工智能的概念以来，人工智能技术经历了多个发展高峰和低谷。在这一长期的发展过程中，人工智能技术不断演进，逐步朝着更高的智能水平和适应性发展。2022年11月30日，OpenAI 发布了 ChatGPT，引发了行业热潮，直至今日，业界普遍认为，大模型时代已经到来，也象征着人工智能开启了迈向通用人工智能(AGI,Artificial General Imtelligence) 的新阶段。在大模型出现之前，人工智能通常需要针对特定的任务和场景设计专门的算法，这种方法虽然在特定领域有效，但人们对智能”的期望是能够适应多种任务和场景的智能系统，单一任务的人工智能系统已经无法满足这些更广泛的需求。大模型能够跨越传统人工智能的局限性，理解和推理的能力有了极大的飞跃，同时也提高了复用的效率，为人工智能技术在更多领域的应用提供了坚实的基础，推动人类社会迈向通用人工智能(AGI)的新阶段

通用性和复用性是大模型的关键价值。2017 年，Google Brain (谷歌大脑)团队在其论文《Attention Is All You Need》中创造性地提出 Transfonmer 架构，凭借注意力机制，极大地改善了机器学习模型处理序列数据的能力，尤其是在自然语言处理(NLP)领域。Transformer 架构的出现，为后续的大模型如 ChatGPT 等奠定了技术基础。ChatGPT、Bert 等大模型通过海量数据和庞大的计算资源支持，使得模型具备了强大的通用性和复用性。大模型可以被广泛应用于自然语言处理、计算机视觉、语音识别等领域的各种任务，能够为各种应用和开发人员提供共享的基础架构，并进一步通过微调、零样本学习等方式，直接在一系列下游任务上使用，取得一定的性能表现，支持不同行业、不同场景的应用构建

大模型展现出三大基础特征。目前大模型并没有明确的定义，狭义上指大语言模型，广义上则指包含了语言、声音、图像等多模态大模型。如李飞飞等人工智能学者所指出，这些模型也可以被称为基础模型 (Foundation Model)。我们认为，大模型主要具备以下三大特征:

参数规模大:大模型的参数规模远大于传统深度学习模型。大模型发展呈现“规模定律”(Scaling Law)特征，即: 模型的性能与模型的规模、数据集大小和训练用的计算量之间存在幂律关系，通俗而言就是”大力出奇迹”。不过“大”并没有一个绝对的标准，而是一个相对概念。传统模型参数量通常在数万至数亿之间，大模型的参数量则至少在亿级以上，并已发展到过万亿级的规模。如OpenAI的GPT-1到GPT-3，参数量从1.1亿大幅拉升到 1750 亿，GPT-4非官方估计约达18 万亿

泛化能力强:大模型能够有效处理多种未见过的数据或新任务。基于注意力机制(Attention)，通过在大规模、多样化的无标注数据集上进行预训练，大模型能够学习掌握丰富的通用知识和方法，从而在广泛的场景和任务中使用，例如文本生成、自然语言理解、翻译、数学推导、逻辑推理和多轮对话等。大模型不需要、或者仅需少量特定任务的数据样本，即可显著提高在新任务上的表现能力。如 Open A 曾用GPT4 参加了多种人类基准考试，结果显示其在多项考试中成绩都超过了大部分人类(80%以上)，包括法学、经济学、历史、数学、阅读和写作等.

支持多模态:大模型可以实现多种模态数据的高效处理。传统深度学习模型大多只能处理单一数据类型(文本、语音或图像)，大模型则可以通过扩展编/解码器、交叉注意力(Cross-Attention、迁移学习 (Trasfer leaming) 等方式，实现跨模态数据的关联理解、检索和生成。多模态大模型(LMMs，Large Multimodal Models) 能够提供更加全面的认知能力和丰富的交互体验，拓宽 A处理复杂任务的应用范围，成为业界探索迈向通用人工智能的重要路径之一。典型如OpenAI的 Sora模型推出，掀起了全球多模态大模型的发展新热潮。

精选报告来源/公众号：海选智库

精选报告来源/公众号：海选智库
本文仅供参考，不代表我们的任何投资建议。海选智库整理分享的资料仅推荐阅读，如需使用请参阅报告原文。