![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
模型
文章平均质量分 63
第六五签
这个作者很懒,什么都没留下…
展开
-
UniRepLKNet_ A Universal Perception Large-Kernel ConvNet
大核卷积神经网络(ConvNets)最近受到了广泛的研究关注,但有两个尚未解决的关键问题需要进一步的研究。1)现有的大核卷积网的架构在很大程度上遵循了传统的卷积网或transformer的设计原则,而针对大核卷积网的架构设计仍未得到充分解决。2)由于transformer主导了多种模式,convnet是否在视觉之外的领域也具有很强的普遍感知能力仍有待研究。在本文中,我们从两个方面进行了贡献。原创 2024-03-12 09:59:20 · 376 阅读 · 0 评论 -
FLatten Transformer_ Vision Transformer using Focused Linear Attention
当将transformer模型应用于视觉任务时,自注意的二次计算复杂度(n2n^2n2)一直是一个持续存在的挑战。另一方面,线性注意通过精心设计的映射函数来近似Softmax操作,提供了一个更有效的替代方法。然而,当前的线性注意方法要么遭受显著的性能下降,要么从映射函数中引入额外的计算开销。在本文中,作者提出了一种新的聚焦线性注意模块,以实现高效率和表达性。具体来说,首先从聚焦能力和特征多样性两个角度分析了导致线性注意性能下降的因素。原创 2024-03-11 21:36:22 · 961 阅读 · 0 评论 -
灵心(soulchat)中文领域心理健康大模型
灵心(soulchat)中文领域心理健康大模型原创 2023-07-19 00:22:14 · 891 阅读 · 0 评论