Friedrichor的博客

ACL 2024 Main，基于 sticker 的多模态共情对话数据集、大模型和评价体系。

使用 T5 (Text-to-Text Transfer Transformer) 来做文本分类任务的一些总结

UPT (Unified Prompt Tuning) few-shot 文本分类Towards Unified Prompt Tuning for Few-shot Text Classification

CCL2022自然语言处理国际前沿动态综述 之 开放域对话生成前沿综述，由哈尔滨工业大学计算学部、社会计算与信息检索研究中心的张伟男老师汇报。

对当前 对话系统 的发展进行总结 并 重点对开放型对话技术进行梳理。

NNLM、RNNLM、Attention语言模型 language model下一单词预测 next-word prediction

文章目录1. 下载Elasticsearch2. 配置 Java环境3. 运行 elasticsearch.bat4. 安装 node.js5. 下载并配置 elasticsearch-head6. 安装 grunt环境7. 访问 http://localhost:9100/8. 之后使用 Elasticsearch9. IK分词器（中文搜索）1. 下载Elasticsearch前往官网下载：https://www.elastic.co/cn/downloads/elasticsearch#ga-rel

一、下载node.js首先到官网下载相应的包：https://nodejs.org/en/download/以我自己的电脑为例，点击如下红框进行下载：然后解压，如下所示：cmd进入上面这个文件夹，然后输入npm install -g cnpm --registry=https://registry.npm.taobao.org，效果大致如下所示。输入grunt -version可以查看版本号二、配置环境环境变量中双击打开 系统变量的 Path点击新建，把上面解压后的那个文件夹路径输

Learning to Select Knowledge for Response Generation in Dialog Systems PostKS(Posterior Knowledge Selection)模型后验知识模型

目录模型架构预训练步骤MLM(Mask Language Model)NSP下游任务微调BERT如何提升BERT下游任务表现模型架构BERT的基础transformer结构（encoder部分）：输入部分：对于transformer来说，输入部分会进行两个操作，包括Input Embedding和Positional Encoding两部分。Input Embedding就是将输入转为词向量，可以是随机初始化，也可以是使用word2vec。Positional Encoding就是位置编码，用

词向量、Word embedding、语言模型训练（Language Model Training）、CBOW(Continuous Bag of Words)、Skipgram、Negative Sampling(负采样)、Skipgram with Negative Sampling (SGNS)、Word2vec训练过程

停用词(Stop Words)的价值、收集与使用

pad一般选用一种“无损”的方法，比如CNN里用0向量（在relu激活+没有b的前提下，和变长序列是一样的），而RNN时pad随便补反正会（手动）mask掉。不过一般keras之类的自动mask貌似都是让你补0？一般会用随机初始化，但也有一些技巧，比如对低频词对应的可以对全部低频词做采样后取平均来初始化。（或者表示0频词的初始化为1频词的采样平均）。应该也会有人用character embedding之类的方法来初始化UNK吧~虽然不懂推荐系统，但感觉没见过的商品类别可以对类别相似的商品采样取平均的方式

Textclassification中文短文本分类包含TextCNN, TextDCNN, TextDPCNN, TextRCNN, TextRNN, TextRNN+Attention, Transformer, FastText等模型

nltk.download(‘punkt’)报错问题结果方案问题描述import nltk nltk.download('punkt')运行这个代码在我这里会出现如下报错，原因不详[nltk_data] Error loading punkt: <urlopen error [WinError 10054][nltk_data] 远程主机强迫关闭了一个现有的连接。>解决方案直接到官网下载文件：网址点击download，在 C:\Users\xxx\AppDat

PostKS(Posterior-Knowledge-Selection)模型