![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习技术原理
文章平均质量分 83
词界_AI
AI时代的组织知识管理
展开
-
人工智能应用之知识问答实现方案概览
2、随着LLM能力的增强,可以接受的prompt长度越来越长(claude-100k等),对于文本切分成段落进行存储及查找召回的要求会越来越低,后期文本内容可以完整的放到数据库中及发给大模型的输入中。1、在根据用户问题进行查找,召回匹配的文本片段时,不必完全依赖向量化以及向量数据库,使用传统搜索引擎也是一种召回的可选方案。3、扩展性和可控性(可以根据需求,增、删、改特定问题的回答内容,或以特定形式进行回复处理,如进入剧本、非文本回复等)。1、构建如上图的知识体系,叶节点是目标答案。原创 2024-06-12 21:26:22 · 583 阅读 · 0 评论 -
神经网络组件详解-MoE混合专家模型
MOE:Mixture of Experts,可以简单理解为“”组成的神经网络。如Google 的论文中提出的一种MOE结构,通过进行,然后选择对应的。原创 2024-04-15 00:16:32 · 2570 阅读 · 0 评论 -
神经网络组件详解-残差网络
其通过引入残差块(Residual Block)来解决随着网络深度的增加而出现的梯度消失和梯度爆炸问题。原创 2024-04-06 21:58:40 · 943 阅读 · 0 评论