- 博客(2)
- 收藏
- 关注
原创 大语言模型在发生“真实知识冲突”时行为的研究
本文研究了一个很有意思且重要的场景:LLMs使用者提供的上下文(例如:基于私有知识库RAG检索而来的上下文)中包含的事实知识与模型在训练阶段“记忆”的事实知识相冲突的时候(context-memory conflicts),模型会①忽略上下文中的知识,还是②忽略“记忆”中的知识呢?即前人工作中,query的参数化答案(parametric answer),即模型记忆的答案是正确的,但给定上下文后,通过实体替换,将正确答案替换为错误答案,从而观察模型行为。中找到正确的实体或精准的抽取式摘要的过程。
2024-07-22 21:13:18 634
原创 第一篇CSDN博客
昨天与cq聊到做自己的内容平台,写一些论文的随笔或任何事物的笔记,然后做成公众号,这样可以从“身边”的人开始有观众,培养一种习惯、兴趣,甚至未来的副业。不过公众号的排版还挺麻烦的,至少我在20年左右自己做过一个展示自己录制的吉他指弹视频时候如是觉得,又偶然进入到csdn的文章撰写页,觉得设计非常人性化(这种认知仅仅发生在刚才1小时以内),遂打算先以csdn为“公开”笔记的笔记本叭。第一篇csdn博客,打算用我喜欢的仿宋(中文)字体与Candara(英文)字体开始这个平台上的博客。
2024-07-11 09:32:18 146
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人