wawa_nudt-CSDN博客

转载千亿规模参数源1.0预训练大模型的知识蒸馏技术

最后，大模型在开源开放之后也迎来了非常多的合作，吸引了超过一千三百多的开发者，来自不同的行业和不同的应用场景，注册并基于我们的源 1.0 大模型，进行不同应用的开发。可以看到，在模型构建和训练算法的设计过程当中，，根据期望的训练时长和模型推理的延迟等要求，预先设定相应的模型结构，在已有的数据上做预训练，把这个预训练出来的模型当做学生模型，在此基础上再用专业数据集结合千亿参数模型，对这个百亿参数模型进行进一步的知识蒸馏，采用这样的方式降低了模型开发的成本，同时可以很好的保留模型宽度跟深度上的一些结构。

2023-03-01 16:55:57 963

转载 AI写作靠谱吗？AI笔下的“中年危机”？网友：有内味了（一）

人们一直都很好奇AI如何认知人类的感情。其中或许展现了“源”对于人类爱情的理解。当小编问了AI“源“同样的问题后。这是一个有关“爱与时间”的故事。

2022-09-22 10:45:35 560

原创 “智能对话机器人”离“智能”还有多远？

自然语言生成的聊天机器人相比基于检索的聊天机器人，虽然看上去已经“智能”很多，但是它也有其局限性，基于自然语言的聊天机器人有时过于创意，影响了回应的准确性。聊天机器人有一些显著优势，如，减少对人的依赖、减低成本、提高效率、简化服务流程、以用户的需要为中心。对话机器人行业规模巨大，前景广阔。聊天机器人主要有几种类型，第一种是服务简介及导入 (如，i-change ），第二种是直接提供服务 (如，Woebot），第三种是配合真人提供服务 (如，Wysa），第四种是朋辈/男友/女友陪伴式聊天（如，微软小冰）。

2022-09-19 16:59:17 621

原创零门槛开发AI陪练机器人，技能提高的神器。

如果你学习的不是python语言，而是另外的语言，原理也是一样的，同样可以使用源的开放API，只不过就无法直接使用源官方开源出来的示例代码，而需要自己从头写示例程序。所有进行“人”的服务的人，比如销售、心理咨询师，甚至企业管理者，普通人，都是要在“环境中”不断练习，才能提高自己的沟通和技能。已经有开发者开发了AI剧本杀虚拟人，AI虚拟演员，AI虚拟病人，问答机器人，文案自动生成器，邮件自动写作，夸夸机器人，抬杠机器人，辩论机器人等应用，你也可以发挥你的创意，给源三条样例，开发一个AI应用。

2022-09-08 16:26:50 760

转载 AI 开始 “闹情绪”，AI如何给心理咨询师做陪练

凭借“源1.0”零样本（Zero-Shot）和小样本（Few-Shot）学习的优势，AI模型展现出强大的长时记忆、短时记忆、情感对话、自由交谈等方面的能力，全方面展现了一个在生活、感情生活、职场及健康等方面均存在各种问题的求助者，所面临的情感压力，并与心理咨询师进行了深入沟通交流；“一对一”实践对话等形式的培训面临资源不足的情况，通过智能对话的AI，模仿存在抑郁倾向的求助者，为培训心理咨询专业的人才提供大量生动、多样化的样本。例如，聊天机器人可以初步识别特定类型的负面情绪，并给出相对适当的反应。

2022-09-01 17:47:46 340

原创三条数据，开发一个高级AI应用，不信？用源1.0的API试试。

即使你不是人工智能专业的学生，只是一名刚开始学习编程的入门程序员，你也可以开发出有趣的AI应用。就像Scratch让全世界的小朋友都熟悉和爱上了编程，预训练大模型的出现，也改变了AI应用的开发模式，随着更多方便工具的出现，零代码低代码+可视化的AI应用开发必将蓬勃发展，喜欢编程的小朋友和大朋友们，都可以发挥自己的创意，开发有趣有用的AI应用。下面是基于中文预训练大模型浪潮源1.0的API，开发API应用的详细使用方法。第一步，你需要获得使用的授权，在源官网（https://air.inspur.com/ho

2022-07-01 14:21:05 478

转载吴恩达：机器学习的六个核心算法

来源：AI科技评论编译 | 黄楠编辑 | 陈彩娴最近，吴恩达在其创办的人工智能周讯《The Batch》上更新了一篇博文，总结了机器学习领域多个基础算法的历史溯源。文章开头，吴恩达回忆他的研究历程中曾有一次抉择：多年前，在一次项目中，选择算法时，他不得不在神经网络与决策树学习算法之间做选择。考虑到计算预算，他最终选择了神经网络，在很长的一段时间内弃用增强决策树。这是一个错误的决定，「幸好我的团队很快修改了我的选择，项目才成功。」吴恩达谈道。他由此感叹，不断学习与更新基础知识是十分重要的。与其他技术领域一样，

2022-06-06 12:10:56 217

原创 NLP领域的大一统模型transformer

NLP是人工智能（AI）的一个方向，大白话来说就是让机器理解人类的语言，并且能够与人进行自然地交流。当然，这个语言包括口头语言，也包括书面语言（文字）。就像人一样，一天学没上过，他也可以日常交流，但是读不懂书，认不了字。我们称之为文盲。那么机器呢，是由电子元器件组成的一个物品，它最容易识别的是0和1信号。当然，让机器达到理解和说出人类语言的目标，难度还是很高的。就算智力最高的动物，学说几个字都很困难，不管是大猩猩还是鹦鹉，也都做不到与人语言交流。目前的技术水准，机器距离理解语言和自然的使用语言这个目标还差得

2022-05-20 11:08:17 1966