年度征文 | 再见2022，你好2023

已于 2023-02-16 12:04:31 修改
阅读量670 收藏
点赞数 2
分类专栏： 组会论文 情感对话 NLP 文章标签： 自然语言处理 人工智能 年度征文 2023 经验分享
于 2023-01-13 10:32:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44833392/article/details/128669588
版权
NLP 同时被 3 个专栏收录
88 篇文章 44 订阅 ¥29.90 ¥99.00
订阅专栏
情感对话
69 篇文章 51 订阅 ¥29.90 ¥99.00
订阅专栏
组会论文
31 篇文章 12 订阅 ¥29.90 ¥99.00
订阅专栏

年度征文 | 再见2022，你好2023

题记

这两天打开CSDN，发现消息栏一直提示我写这个年度征文，本来觉得自己没有经验可以分享，毕竟自己仍处于该领域的起步阶段，无法给大家提供有用的建议或实用的总结，说来惭愧。不过，我倒是可以写写自己的学习之路，以及这一年来我认为自己所取得的进步。

在这里插入图片描述

个人简介

在校研究生一枚，目前主攻NLP中开放域对话系统这一块，主要分享的内容包括这几个模块：

初衷

由于是从头接触这个领域，起步虽晚，但是永远不迟，本博客致力于为和我一样的小白服务，从看不懂论文，不知道如何上手到敢于对论文中提及的方法发出质疑，从而引出自己的思考。我将竭尽自己所能，带领大家一起探索NLP这未知的宇宙，激发学习兴趣，让学习不再无聊、枯燥。

写作

如果很早之前就关注我的粉丝们应该可以看出了，我之前写的文章很“烂”，这体现在两个方面：

  • 文章太长，没用重点
  • 文章没有前后逻辑， 全是知识点的堆砌

这同样也困惑着我，每当我重新翻看自己的文章时都会感到汗颜😓，天啊，我这写的是什么鬼，连自己都看不懂，这还怎么让别人看懂？之后我便更加注重文章的流畅性和逻辑性，包括用词的准确性，以及论文相关知识介绍，来降低读者对于文章的“困惑度”。写文章，首先让自己读懂，才能让别人读懂，我觉得这是我今年最大的收获，能够把步伐慢下来，深入到一篇论文中读懂其精髓，而不是稀里糊涂地走马观花。

下图：论文相关知识介绍的示例
在这里插入图片描述

今年一共创作了148篇文章，平均质量分达到93.6，虽然不知道这个是怎么算出来的，但感觉还行，对！自我感觉良好！

开创了三个重要专栏：

  • 情感对话：论文集中于ERC（对话中的情感识别）和EDG（情感对话生成）
  • NLP：论文集中于开放域对话系统，聊天、回复生成、以及解决对话系统常见问题（通用性回复、输入截断导致文本信息缺失，损失函数设计）
  • 组会论文：实验室其他成员在组会上分享的论文，学NLP当然不能只盯着一个领域，你还得从其他方向寻找方法进行知识迁移，说不定你的idea就是下一个顶会！方向包括：任务型对话（客服问答）、知识图谱和多模态融合

如果你感觉对于自己有用，欢迎大家一起交流学习！

在这里插入图片描述

展望

希望把上述三个专栏做大、做强，学习的意义就在于你能够不断地丰富自己、充盈自己，然后去鼓励更多的人来投身NLP社区的建设，为人类科技发展掀起小小的波澜，当然，我也有小心思，粉丝数争取上万，这可不是一个小目标，希望2023年能够更加努力、上进，不辜负自己、不辜负他人。最后祝大家新年快乐，兔年吉祥！

365JHWZGo
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
《论文阅读》Supervised Prototypical Contrastive Learning for Emotion Recognition in Conversation
MyHeartWillGoOn
11-11 932
在对话中捕捉情绪在现代对话系统中起着至关重要的作用。然而，情绪和语义之间的弱相关性给对话中的情绪识别（ERC）带来了许多挑战。即使是语义相似的话语，情绪也可能因上下文或说话者而发生巨大变化。在本文中，我们为 ERC 任务提出了监督原型对比学习 (SPCL) 损失。利用原型网络，SPCL 旨在通过对比学习解决不平衡分类问题，并且不需要大批量。同时，我们设计了一个基于类别距离的难度测量函数，并引入课程学习来缓解极端样本的影响。我们在三个广泛使用的基准上取得了最先进的结果。
征文｜李琪志：终端安全实践.pdf
09-18
征文｜李琪志：终端安全实践 安全架构 数据安全 安全威胁 安全 业务风控
多模态 | Supervised Prototypical Contrastive Learning for Emotion Recognition in Conversation论文详解及实现
weixin_44649780的博客
05-12 708
论文在对话中捕捉情绪在现代对话系统中起着至关重要的作用。然而，情感和语义之间的弱相关性给会话中的情感识别（ERC）带来了许多挑战。即使是语义相似的话语，情绪也可能因上下文或说话者而有很大差异。在本文中，为 ERC 任务提出了监督原型对比学习 (SPCL) 损失。利用原型网络，SPCL 旨在通过对比学习解决不平衡分类问题，并且不需要大批量。同时，我们设计了一个基于班级距离的难度度量函数，引入课程学习来减轻极端样本的影响。论文在三个广泛使用的基准测试中取得了最先进的结果。
对比学习论文-系列4
Hekena的博客
07-04 568
为了提高答案预测的准确性，我们对语义相似和混乱的负面跨度文本进行采样（④），并通过对比学习来训练模型（⑤）。让R作为训练历时的数量，为了在第k个历时训练模型，我们首先生成一个长度为L的等差数列，其中a1=1-k/R，aL=k/R。（ learning-order denoising）来改善预训练期间学到的关系表征，方法是将每个关系实例的权重与该实例的学习顺序进行线性投影。计算得到每个class的元表示后，作为一个example，用于计算batch中的真实example和这个类型的元表示之间的距离。
SPCL：Siamese Prototypical Contrastive Learning
qq_45527974的博客
09-08 875
对比学习前沿论文解析
自监督学习（Self-Supervised Learning）——Contrastive Methods
藏晖的博客
09-27 2807
Contrastive Methods 与 Generative Methods不同，这类方法并不需要去重构原始输入，而是希望能够在高阶的特征空间中对不同的输入进行分辨，从而促使模型去学习一些通用的特征表示。 在前文（自监督学习（Self-Supervised Learning）个人小结）中我们已经讨论了这种方法的原理和为什么它可以work，本篇博客主要想总结下这类方法的几篇工作。 文献目录 [1] Aaron van den Oord, Yazhe Li, Oriol Vinyals. “Represen
征文｜杨文斌：终端安全之线段理论.pdf
09-18
征文｜杨文斌：终端安全之线段理论 端点安全 AI 网络安全 自动化 业务风控
征文｜肖文棣：终端安全的企业实践.pdf
09-18
征文｜肖文棣：终端安全的企业实践 威胁情报 解决方案 大数据 数据安全与治理 安全架构
征文｜杨文斌：​零信任之个人理解与实践.pdf
09-18
征文｜杨文斌：​零信任之个人理解与实践 威胁情报 渗透测试 安全运维 安全威胁 安全研究
征文｜李磊：企业办公终端安全管控实践和趋势展望.pdf
09-18
征文｜李磊：企业办公终端安全管控实践和趋势展望 web安全 信息安全研究 应用安全 业务安全 安全实践
“PowerInfer：消费级GPU上的高效大语言模型推理引擎“
人工智能前沿分享
04-23 1058
PowerInfer的开源性质，加上其活跃的社区和不断更新的特性，使其成为一个在消费级硬件上部署和运行大型语言模型的强大工具。这种局部性表现为神经元激活的幂律分布，即少数热激活的神经元在多数情况下被频繁使用，而大多数冷激活的神经元则在特定输入下才被激活。推理中的高局部性，实现了快速且资源消耗低的模型推理，这一局部性主要体现在神经元激活的幂律分布上，即少数。量化，这有助于减少模型的存储占用和提高推理速度，进一步适应资源受限的设备。内存的需求，并且降低了两者之间的数据传输，提高了整体的计算效率。
多模态大语言模型综述
qq837993702的博客
04-26 451
去年以来，我们见证了以 GPT-4V 为代表的多模态大语言模型(Multimodal Large Language Model，MLLM)的飞速发展。为此我们对综述进行了重大升级，帮助大家全面了解该领域的发展现状以及潜在的发展方向。MLLM 发展脉络图MLLM 脱胎于近年来广受关注的大语言模型（Large Language Model , LLM），在其原有的强大泛化和推理能力基础上，进一步引入了多模态信息处理能力。
大型语言模型LLM的数据管理与应用
Chou5788的博客
04-25 959
大型语言模型（LLM）风靡全球，尤其是 OpenAI 的最新发展。LLMs 的魅力来自于其理解、解释和生成人类语言的能力，而这曾被认为是人类的专属领域。
李沐69_BERT训练集——自学笔记
Rrrrrr900的博客
04-26 658
mlm的前向推断返回encoded_X的所有掩蔽位置mlm_positions处的预测结果mlm_Y_hat。我们将tokens定义为长度为8的2个输入序列，其中每个词元是词表的索引。下面的MaskLM类来预测BERT预训练的掩蔽语言模型任务中的掩蔽标记。get_tokens_and_segments将一个句子或两个句子作为输入，然后返回BERT输入序列的标记及其相应的片段索引。通过掩码下的预测词元mlm_Y的真实标签mlm_Y_hat，我们可以计算在BERT预训练中的遮蔽语言模型任务的交叉熵损失。
53 语言模型【动手学深度学习v2】
qq_53826699的博客
04-23 392
https://www.bilibili.com/read/cv17622666/?jump_opus=1https://www.bilibili.com/read/cv17622666/?jump_opus=1
研究发现：提示中加入数百个示例显著提升大型语言模型的性能
2301_79342058的博客
04-24 432
研究还发现，模型通过示例“遗忘”了预训练中的错误，并且在给予足够多的示例后甚至能识别抽象的数学模式。这项由谷歌、DeepMind等机构的研究人员进行的研究探讨了LLMs在直接通过提示学习大量示例时性能的提升情况，这种方法被称为多示例上下文内学习（Many-Shot In-Context Learning，ICL）。不要错过这个机会，成为AI领域的领跑者。对于复杂的逻辑任务，如数学或科学问题，研究人员让模型自己创造解决方案并将其作为额外的学习示例，这种方法（“强化ICL”）比人工创造的解决方案更为可靠。
语气确定词库再nlp领域怎么应用？
qq_38341582的博客
04-24 500
例如，在智能客服系统中，我们可以根据用户的情感和需求，利用语气确定词库生成具有合适语气的回复，提升用户体验。通过不断的研究和实践，我们可以不断提升语气确定词库的准确性和覆盖面，为NLP技术的发展和应用提供有力的支持。例如，在电商平台的商品评论分析中，我们可以利用语气确定词库来识别用户评论中的积极词汇和消极词汇，从而判断用户对商品的满意度。例如，在对话系统中，通过识别用户话语中的语气词汇，我们可以更准确地判断用户的意图和情绪，从而给出更恰当的回应。在文本生成领域，语气确定词库同样具有广泛的应用。
Bert基础(十九)--Bert实战：文本相似度匹配
最新发布
Andy_shenzl的博客
04-29 466
文本匹配是指计算机系统识别和确定两段文本之间关系的任务。这个概念非常广泛，涵盖了各种场景，其中文本之间的关系可以是有相似度、问答、对话、推理等。在不同的应用场景下，文本匹配的具体定义可能会有所不同。本次先介绍最简单的文本相似度计算的任务，后面将其他的信息检索、机器翻译、文本生成、对话系统等任务进行实战。基本步骤：fill:#333;color:#333;color:#333;fill:none;1 加载数据集2 数据预处理3 创建模型4 创建评估函数5 创建训练器6 训练模型7 评估。
AI大模型探索之路-训练篇4：大语言模型训练数据集概览
寻道码路，探索编程之路的无限可能。
04-26 1392
在人工智能领域，构建强大的AI系统的关键步骤之一是大规模的语言模型预训练。为了实现这一目标，需要大量且多样化的训练数据。以下是对目前常用于训练大语言模型的数据集的整理与概述。
web开发征文投稿平台的代码
08-09
以下是一个简单的示例代码，展示了一个基本的征文投稿平台的前端界面和一些关键功能。这只是一个示例，你可以根据自己的需求进行修改和扩展。 HTML: ```html <!DOCTYPE html> <html> <head> <title>征文投稿平台</title> <link rel="stylesheet" type="text/css" href="style.css"> </head> <body> <h1>征文投稿平台</h1> <form action="submit.php" method="post" enctype="multipart/form-data"> <label for="name">姓名：</label> <input type="text" id="name" name="name" required><br><br> <label for="email">邮箱：</label> <input type="email" id="email" name="email" required><br><br> <label for="title">文章标题：</label> <input type="text" id="title" name="title" required><br><br> <label for="abstract">摘要：</label> <textarea id="abstract" name="abstract" required></textarea><br><br> <label for="keywords">关键词：</label> <input type="text" id="keywords" name="keywords" required><br><br> <label for="file">上传文件：</label> <input type="file" id="file" name="file"><br><br> <input type="submit" value="提交"> </form> </body> </html> ``` CSS (style.css): ```css body { font-family: Arial, sans-serif; margin: 20px; } h1 { text-align: center; } form { width: 400px; margin: 0 auto; } label { display: inline-block; width: 100px; } input[type="text"], input[type="email"], textarea { width: 250px; padding: 5px; } input[type="submit"] { margin-left: 100px; padding: 10px 20px; background-color: #4CAF50; color: white; border: none; cursor: pointer; } ``` PHP (submit.php): ```php <?php // 获取表单提交的数据 $name = $_POST['name']; $email = $_POST['email']; $title = $_POST['title']; $abstract = $_POST['abstract']; $keywords = $_POST['keywords']; $file = $_FILES['file']; // 处理文件上传 $uploadDir = 'uploads/'; $uploadFile = $uploadDir . basename($file['name']); if (move_uploaded_file($file['tmp_name'], $uploadFile)) { echo "文件已上传成功！"; } else { echo "文件上传失败！"; } // 将数据保存到数据库或其他处理逻辑 // ... ?> ``` 这个示例代码包括一个HTML表单，其中包含姓名、邮箱、文章标题、摘要、关键词和文件上传字段。当用户提交表单时，数据将通过POST方法发送到submit.php文件进行处理。在submit.php文件中，你可以根据需要处理表单数据和文件上传，然后将数据保存到数据库或其他地方。 请注意，这只是一个基本示例，你可能需要根据实际需求进行修改和扩展。还需要添加服务器端的验证和安全性措施，以及进一步的后端处理逻辑。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

365JHWZGo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值