大模型落地几个有趣的应用产品：兼看大模型进行数据标注项目及LooGLE长文本理解benchmark

今天是2023年11与4日，星期六，北京，天气晴。

在昨天，我们来看了看长文本如何将进行评估。

今天，我们再来补充一个评测数据集，并介绍这几天读到的一个一个报告，很有意思，100个有趣的AI应用，以及一个大模型进行数据标注的项目。

供大家一起参考。

一、基于LLM自然语言能力的对话、写作、阅读、分析等应用。

1、虚拟角色对话

character.ai的安卓和ios应用程序在美国的月活用户达到420万，与其类似的应用还有JanitorAI、talkie等。

例如：character.ai 是一款虚拟角色创建和对话工具，用户通过提供信息和设定能生成具有特点 特点的虚拟角色，并可以与其进行对话。

Call Annie定位是用户的人工智能朋友和助手，可以通过练习对话、理解复杂的主题或 提高您的技能来帮助用户学习英语。也可以为用户提供任何帮助，从常识、琐事、解决 问题到面试练习或只是讨论用户感兴趣的话题。

2、写作工具

grammarly官方称全球每天有超过3000万人和50000个团队使用，此外针对小说、营销文案等细分领域各种写作工具百花齐放。

例如，Notion AI利用大规模的语言模型和数据收集，能帮助用户自动做摘要、改正语法、翻译等

Moonbeam经过专门训练，专注于长篇文章写作的AI写作助手，可以帮助用户撰写论文、故事、文章、博客和其他长篇内容。

3、基于大语言模型的阅读理解能力，结合搜索和pdf文件交互

这类产品有ChatPDF、PerplexityAI等应用，利用大语言模型的阅读理解能力，结合文件交互以及网络搜索能力的众多辅助阅读分析，综合了写作、数据分析等功能的办公工具MicrosoftCopilot定价30美金每月，验证了AI在办公领域的价值。

例如，ChatPDF可以让用户更轻松地阅读文章，上传pdf文件后可以用类似于 ChatGPT 对话的 方式获取其中信息。与其类似的应用还有 AskYourPDF、PDF.ai 等。

wisdom.ai为科研人员的决策提供可行的见解，包括确定用户所在领域的全球新兴热点 和研究趋势;确定研究领域最前沿的研究人员和机构进行合作，分析研究领域的资助趋势，以确定项目的潜在资助者;分析文章库以查找关键论文并使用人工智能驱动的引文推荐器进行引用等。

二、企业级应用与各领域垂类应用

1、各类RPA和流程自动化应用

如SAP新推出的Joule助手、CRM服务salesforce、流程自动化应用Zapier等。

B端AI应用可以直接帮企业创造价值，如降低运营成本，提升工作效率等，这些价值更容易量化，且B端场景和数据更好掌控。企业内部数据体量大且结构化程度高，这有利于AI训练，数据安全隐私也更容易控制，合规风险更低，利于应用落地。目前面向企业用户的AI应用以各类RPA及流程自动化应用居多，也有其他销售、客服领域应用。

例如，DeepOpinion是一个一体化平台，无需代码就可以为文本和文档流程构建企业级的人工智能自动化。

2、行业know-how与大模型微调结合

金融领域有彭博的大模型以及开源模型FinGPT等，针对财务分析、金融知识问答以及债券、加密货币等不同领域也均有应用。医学领域在医疗问答、医院流程管理、生物制药等领域均有应用。

例如，Avanzai是用于帮助用户分析财务数据的AI助手，能帮用户使用自然语言生成用于财务 数据分析的 python 代码。

教育领域，Chegg和可汗学院等机构结合GPT-4推出了学习助理。法律领域也有红杉资本与OpenAI投资的Harvey等应用。

例如，studdy是用户的私人人工智能导师，能帮助学习任何学校科目。当需要帮助时，拍下作业照片，Studdy就会回答问题。

编程领域，GithubCopilot已被超过100万开发者激活，并被超过20000个组织采用，谷歌、亚马逊等科技大厂均在跟进推出相关产品。

例如，GitHub Copilot 是由 GitHub、OpenAI 和 Microsoft 开发的生成式 AI 模型提供支持的辅助 编程工具。它接受过自然语言文本和来自公开来源的源代码的培训，包括 GitHub 上公共 存储库中的代码，可作为 Visual Studio Code、Visual Studio、Neovim 和 JetBrains 集成 开发环境(IDE)套件的扩展。

3、面向日常生活以及其他方面有趣应用

面向消费者，在日常出行、购物等方面均有各类AI助手，有原有应用厂商结合自身业务积累为自己的应用引入AI能力如旅行应用PLANbyixigo，烹饪应用Botoouille，也有一些独立的产品如Roamaround。

例如，Roam Around实用的人工智能旅行规划工具，能根据用户的偏好做出规划。

三、大模型进行数据标注以及长文本理解benchmark

1、一个大模型进行数据标注的项目

利用大模型对数据进行标注的一个简单尝试：

地址：https://modelscope.cn/studios/duanyu/LabelFast/summary

github地址：https://github.com/duanyu/LabelFast

2、补充一个大模型长文本理解benchmark

LooGLE是一个用于 LM长文本理解的综合评估基准，其中包含最新（均为2022年之后）和超长的现实文档（每个文档超过24k个词组，其中许多超过 100k词），以及 6,000个新生成的问题，涵盖不同的领域和类别。

在数据构成上，由7个主要任务组成，用于评估 LLM 理解短篇和长篇依存内容的能力。"长依赖性 "任务是指那些需要理解跨越整个长文本的多个证据之间的相互依赖性的任务，精心设计了5种类型的长依赖任务，包括理解与推理、计算、时间线重排、多重信息检索和总结。

数据样例：

数据的组织形式：

{       "input": "The original long input texts",       "title": "The title of the given document",  //for arxiv paper, we use "title" to refer the identical ID for specific paper       "qa_pairs":[               {                   "Q": "Question to ask based on the given input",                   "A": "Groundtruth answer for the question",                   "S": [ "One or more evidence (complete sentences) for answering the question, which are extracted directly from the original input"                   ]               },             ]        // There are multiple questions and corresponding answers in the list (each of them is in json format)                    // For arxiv paper summarization, we use "none" instead for non-qa/non-cloze tasks       "output": "none"   // the predicted outputs of LLM given the long input and instructions, which is initialized as "none"   

此外，在评估方面，为了提供更全面、更通用的结果，LooGLE依靠基于语义相似性的自动度量、GPT4即判断和人工评估来获得整体性能。

那么，如何系统的去学习大模型LLM？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套 《LLM大模型入门+进阶学习资源包》，扫码获取~

篇幅有限，部分资料如下：

👉LLM大模型学习指南+路线汇总👈

💥大模型入门要点，扫盲必看！

💥既然要系统的学习大模型，那么学习路线是必不可少的，这份路线能帮助你快速梳理知识，形成自己的体系。

👉大模型入门实战训练👈

💥光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉国内企业大模型落地应用案例👈

💥《中国大模型落地应用案例集》 收录了52个优秀的大模型落地应用案例，这些案例覆盖了金融、医疗、教育、交通、制造等众多领域，无论是对于大模型技术的研究者，还是对于希望了解大模型技术在实际业务中如何应用的业内人士，都具有很高的参考价值。 （文末领取）

💥《2024大模型行业应用十大典范案例集》 汇集了文化、医药、IT、钢铁、航空、企业服务等行业在大模型应用领域的典范案例。

👉LLM大模型学习视频👈

💥观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。 （文末领取）

👉640份大模型行业报告👈

💥包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

👉获取方式：

这份完整版的大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓