- 博客(7)
- 收藏
- 关注
原创 人工智能应用之知识问答实现方案概览
2、随着LLM能力的增强,可以接受的prompt长度越来越长(claude-100k等),对于文本切分成段落进行存储及查找召回的要求会越来越低,后期文本内容可以完整的放到数据库中及发给大模型的输入中。1、在根据用户问题进行查找,召回匹配的文本片段时,不必完全依赖向量化以及向量数据库,使用传统搜索引擎也是一种召回的可选方案。3、扩展性和可控性(可以根据需求,增、删、改特定问题的回答内容,或以特定形式进行回复处理,如进入剧本、非文本回复等)。1、构建如上图的知识体系,叶节点是目标答案。
2024-06-12 21:26:22
592
原创 神经网络组件详解-MoE混合专家模型
MOE:Mixture of Experts,可以简单理解为“”组成的神经网络。如Google 的论文中提出的一种MOE结构,通过进行,然后选择对应的。
2024-04-15 00:16:32
2584
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人