- 博客(5030)
- 收藏
- 关注
RSS订阅转载 【牛津大学博士论文】图神经网络鲁棒机器学习
来源：专知本文约1000字，建议阅读5分钟为了在关键安全领域如医疗或自动驾驶中应用神经网络，我们需要能够分析它们对抗对抗性攻击的鲁棒性。为了在关键安全领域如医疗或自动驾驶中应用神经网络，我们需要能够分析它们对抗对抗性攻击的鲁棒性。这些攻击通过添加小的、精心选择的扰动来扰乱自然图像，这些扰动对人眼来说几乎是察觉不到的。训练有素的神经网络尽管在训练和验证准确度很高，但经常会错误分类许多这些受扰动的...
2024-05-23 17:00:59
2
转载 GPT-4o深夜炸场！AI实时视频通话丝滑如人类，Plus功能免费可用，奥特曼：《她》来了...
来源：量子位（公众号ID：QbitAI）作者：梦晨，克雷西本文约1800字，建议阅读10分钟不开玩笑，电影《她》真的来了。OpenAI最新旗舰大模型GPT-4o，不仅免费可用，能力更是横跨听、看、说，丝滑流畅毫无延迟，就像在打一个视频电话。现场直播的效果更是炸裂：它能感受到你的呼吸节奏，也能用比以前更丰富的语气实时回复，甚至可以做到随时打断。GPT-4o里的“o”是Omni的缩写，也就是“全...
2024-05-23 17:00:59
9
转载 从IoTDB的发展回顾时序数据库演进史
本文约2500字，建议阅读5分钟面向工业物联网时代，以 IoTDB 为代表的时序数据库加速发展。时序数据的主要产生来源之一是设备与传感器，具有监测点多、采样频率高、存储数据量大等多类不同于其他数据类型的特性，从而导致数据库在实现高通量写入、存储成本、实时查询等多个维度存在管理难点。针对这些特性与难点，专门针对时序数据管理构建的时序数据库也在逐步成熟。以 IoTDB 为代表的国产时序数据库面向工业...
2024-05-22 17:01:34
6
转载 图像去模糊研究综述
来源：专知本文为论文介绍，建议阅读5分钟图像去模糊算法的研究发展不仅为计算机视 觉领域的其他任务提供了便利，同时也为生活领域提供了便捷和保障。图像模糊是指在图像捕捉或传输过程中，由于镜头或相机运动、光照条件等因素导致图像失去清晰度和细 节，从而影响图像的质量和可用性。为了消除这种影响，图像去模糊技术应运而生。其目的在于通过构建计算机数 学模型来衡量图像的模糊信息，从而自动预测去模糊后的清晰图像...
2024-05-22 17:01:34
6
转载 一图胜千言！机器学习模型可视化！！
本文约12000字，建议阅读10分钟本文将深入探讨机器学习可视化的艺术，探索帮助我们理解复杂数据驱动系统的各种技术。机器学习模型有强大而复杂的数学结构。了解其错综复杂的工作原理是模型开发的一个重要方面。模型可视化对于获得见解、做出明智的决策和有效传达结果至关重要。在本文中，我们将深入探讨机器学习可视化的艺术，探索帮助我们理解复杂数据驱动系统的各种技术。文末，还提供了一个可视化示例的实践代码。什么...
2024-05-22 17:01:34
12
转载 微软让MoE长出多个头，大幅提升专家激活率
来源：机器之心本文约3000字，建议阅读6分钟本文介绍了MH-MoE 的方法。MH-MoE 能优化几乎所有专家，实现起来非常简单。混合专家（MoE）是个好方法，支持着现在一些非常优秀的大模型，比如谷歌家的 Gemini 1.5 以及备受关注的 Mixtral 8x7B。稀疏混合专家（SMoE）可在不显著增加训练和推理成本的前提下提升模型的能力。比如 Mixtral 8...
2024-05-21 17:01:47
7
转载 论文 | GraNNDis：大型集群上深度 GNN 的高效统一分布式训练框架
本文约2500字，建议阅读5分钟本文提出了 GraNNDis，这是一种高效的分布式 GNN 训练框架，用于在大型图和深层上训练 GNN。图神经网络（GNN）是深度学习中发展最快的领域之一。根据数据集的增长和 GNN 使用的模型大小，一个重要的问题是几乎不可能将整个网络保留在 GPU 内存上。在众多尝试中，分布式训练是解决该问题的一种流行方法。然而，由于 GNN 的性质，现有的分布式方法的可扩展性...
2024-05-21 17:01:47
10
转载 又可以白嫖了，Hugging Face推出ZeroGPU提供共享的40G A100，总计价值1000万美元
本文为约1000字，建议阅读5分钟这种灵活的管理不仅提高了资源的利用效率，还大幅降低了成本，使得更多的用户和应用能够同时利用这些高价值的计算资源。在AI领域，获取高性能计算资源常常成为小型开发者和初创企业的一大难题。为了解决这一问题，机器学习领域的领军企业Hugging Face最近推出了名为ZeroGPU的新技术，旨在通过其平台Spaces提供免费且更加灵活的GPU访问服务，支持更多开发者和研...
2024-05-21 17:01:47
15
转载 问题的关键是找到关键的指标
本文约2900字，建议阅读8分钟本文与你分享寻找核心变量并量化的经验。在解决复杂问题的过程中，找到核心变量的重要性不言而喻。这些核心变量直接影响问题的表现和解决方案的有效性。之前的文章我也提到过数学建模的三要素之一就是找到核心变量。如果可以的话（当然也看量化能力），就要找到核心变量的量化方法，或者说是转化为一个指标。管理学大师彼得·德鲁克曾经说过：如果你无法量化它，你就无法管理它。那我们该如何找...
2024-05-20 17:01:43
8
转载 【ICML2024】使用大型语言模型通过自对齐为机器人技能学习奖励
来源：专知本文为论文介绍，建议阅读5分钟我们提出了一种在无人参与的情况下更高效学习奖励的方法。学习奖励函数仍是让机器人掌握广泛技能的瓶颈。大型语言模型（LLM）包含有价值的与任务相关的知识，这可能有助于学习奖励函数。然而，所提出的奖励函数可能不够精确，因而效果不佳，需要进一步与环境信息相结合。我们提出了一种在无人参与的情况下更高效学习奖励的方法。我们的方法包括两个组成部分：首先使用LLM提出奖励...
2024-05-20 17:01:43
10
原创 原创 | GPT模型的前世今生
作者：李媛媛本文约3000字，建议阅读6分钟本文为你介绍GPT模型的前世今生。1 GPT模型概述GPT模型，全称Generative Pre-trained Transformer，由OpenAI团队开发，是一种基于深度学习的自然语言处理模型。通过无监督学习的方式，对大规模文本进行学习和抽象概括，进而通过微调的方式用于各种特定的自然语言处理任务。GPT模型的核心是Transformer架构，这...
2024-05-20 17:01:43
256
转载 整合文本和知识图谱嵌入提升RAG的性能
来源：DeepHub IMBA本文约4600字，建议阅读10分钟本文中我们将文本和知识图谱结合，来提升我们RAG的性能。我们以前的文章中介绍过将知识图谱与RAG结合的示例，在本篇文章中我们将文本和知识图谱结合，来提升我们RAG的性能。文本嵌入的RAG文本嵌入是单词或短语的数字表示，可以有效地捕捉它们的含义和上下文。可以将它们视为单词的唯一标识符——捕获它们所代表的单词的含义的简洁向量。这些嵌入...
2024-05-19 17:38:13
7
转载 【普林斯顿博士论文】语言智能体: 从下一词元预测到数字自动化
来源：专知本文约1100字，建议阅读5分钟本论文引入了“语言代理”，这是一类新的代理，它们利用大型语言模型（LLMs）进行推理以采取行动，标志着与传统通过广泛规则设计或学习的代理的一种转变。构建能与世界互动的自主代理是人工智能（AI）的核心。本论文引入了“语言代理”，这是一类新的代理，它们利用大型语言模型（LLMs）进行推理以采取行动，标志着与传统通过广泛规则设计或学习的代理的一种转变。它分为三...
2024-05-19 17:38:13
7
转载 通知 | 清华大学《高端装备实践》课开始报名啦！
《高端装备实践》是由机械系开设的，面向全校研究生开放的跨院系、跨专业的基地实践课程，旨在提升研究生专业实践能力，培养产学研用一体化思维能力。在实践过程中，通过相关行业专家授课和与校内其他院系研究生的跨专业组织形式，加强研究生对高端装备及其相关领域的深入了解、提高研究生团队合作能力及职业胜任力。通过该课程实践考核的学生可获得清华大学研究生院和实践基地联合颁发的《高端装备实践》证书。实践表现优秀，还可...
2024-05-19 17:38:13
8
转载 轻松上手！手机上部署Phi3、Llama3最新大模型全攻略！
本文约3100字，建议阅读10分钟本文在此会介绍几个适合私人部署的最新大模型，然后手把手部署到电脑及手机。大模型无疑是此次AI革命的主角，大模型基于Scaling Law（缩放定律）。简单的说，就是数据越多，参数越大，算力越强，模型最终的能力就越强。随着模型参数和预训练数据规模的增加，模型能力与任务效果不断改善，展示出了一些小规模模型所不具备的“涌现能力”。随着大模型时代的逐步来临，以ChatG...
2024-05-19 17:38:13
32
转载 【伯克利博士论文】零样本机器人感知的视觉-语言表示
来源：专知本文约2000字，建议阅读5分钟随着机器人系统进入现实世界，创建能够适应真实世界的机器人感知系统的挑战仍然存在。现实世界包含视觉和语义上多样化的环境，这些环境中充满了更加多样化的物体。我们可以利用大型视觉-语言模型（VLMs）来应对这种多样性，这些模型最近在捕捉现实世界规模的语义方面显示出了前景，因为它们是在互联网规模的数据上预训练的。我们希望依赖这些VLMs而无需进行额外的环境特定...
2024-05-18 17:04:55
6
转载 BiTCN：基于卷积网络的多元时间序列预测
来源：DeepHub IMBA本文约3300字，建议阅读10分钟本文将介绍了BiTCN模型，通过利用两个时间卷积网络(TCN)，该模型可以编码过去和未来的协变量，同时保持计算效率。在时间序列预测领域中，模型的体系结构通常依赖于多层感知器(MLP)或Transformer体系结构。基于mlp的模型，如N-HiTS, TiDE和TSMixer，可以在保持快速训练的同时获得非常好的预测性能。基于Tr...
2024-05-18 17:04:55
11
转载 李飞飞团队 AI4S 最新洞察：16 项创新技术汇总，覆盖生物/材料/医疗/问诊……...
本文约9000字，建议阅读15分钟本文介绍了李飞飞团队AI4S 最新洞察：16 项创新技术汇总。斯坦福大学 HAI 研究中心重磅发布了《2024年人工智能指数报告》，新增章节探讨了 AI 在科研与医学领域的应用。不久前，斯坦福大学 Human-Center Artificial Intelligence (HAI) 研究中心重磅发布了《2024年人工智能指数报告》。作为斯坦福 HAI 的第七部力...
2024-05-18 17:04:55
12
转载 GPT-4理解武林外传中的含蓄表述，达人类水平
本文约3300字，建议阅读10分钟LLMs在面对类似的会话隐喻时能理解到说话人真正的含义吗？在人际交谈中，特别是在使用中文这样博大精深的语言时，人们往往不会直接回答问题，而是采用含蓄、隐晦或间接的表达方式。人类根据以往的经验或是对说话者的了解可以对一些言外之意做出准确的判断，比如我们小时候经历过无数次的对话情景：“妈妈，我的书放哪啦？”“在我手上，来拿嘛！”又或是：“妈妈，今天我想吃红烧肉可以吗...
2024-05-17 17:03:45
8
转载 Nature论文：斯坦福团队研发出普通眼镜尺寸的新一代AR头盔
来源：头部科技大数据文摘本文约1800字，建议阅读5分钟已经有太多AR设备出现，但都不算成功，斯坦福希望能改变世界。已经有太多AR设备出现，但都不算成功，斯坦福希望能改变世界。来自斯坦福大学的科研团队最近展示一件新产品，它是一款原型AR头盔，不同之处在于，这款头盔十分轻盈，外观如同普通眼镜，头盔用全息成像技术将彩色3D动态图像投射至镜片。因为采用了新方法，原型AR头盔紧凑、舒适，可以续航一天...
2024-05-17 17:03:45
12
转载 太强了！10大开源大模型！
本文约2700字，建议阅读9分钟本文将详细介绍最新的顶级开源LLMs大模型。大型语言模型（LLMs）无疑是人工智能革命中的核心驱动力，它们建立在Transformer架构的稳固基石之上，并根据缩放定律不断演进。简而言之，缩放定律揭示了一个重要原则：随着数据规模的扩大、参数数量的增加以及计算能力的提升，模型的能力将迈向新的巅峰。正是通过预先训练海量的文本数据，LLMs展现出了卓越的对话和任务处理能...
2024-05-17 17:03:45
12
转载 Kaggle知识点：类别变量处理与精度对比
来源：Coggle数据科学本文约1200字，建议阅读4分钟本文将使用埃姆斯爱荷华州房屋数据集进行房价分析。在这个例子中，我们将比较使用不同的编码策略来处理分类特征时，HistGradientBoostingRegressor 的训练时间和预测性能。具体来说，我们将评估以下几种方法：删除分类特征；使用 OneHotEncoder；使用 OrdinalEncoder，将分类特征视为有序、等距的量；...
2024-05-16 17:31:35
7
转载 基于深度学习的中文文本分类综述
来源：专知本文为论文介绍，建议阅读5分钟本文将简要介绍传统机器学习的文本分类方法， 详细阐述使用深度学习的文本分类方法。大数据时代，随着社交媒体的不断普及，在网络以及生活中，各类文本数据日益增长，采用文本分类技术对文本数据进行分析和管理具有重要的意义。文本分类是自然语言处理领域中的一个基础研究内容，在给定标准下，根据内容对文本进行分类，文本分类的场景应用十分广泛，如情感分析、话题分类和关系分类...
2024-05-16 17:31:35
11
转载 万字长文总结大模型知识编辑领域最新研究进展
本文约14000字，建议阅读5分钟本文调研了近期的大模型知识编辑的部分工作，分为大模型知识编辑新技术、新设定和挑战与局限性三部分，最后进行总结与展望。随着深度学习与预训练技术的快速发展，大模型如 ChatGPT、Mistral、LLaMA、ChatGLM、文心一言、通义等在自然语言处理领域已经取得了显著的突破。大模型通过将海量的、以文本序列为主的世界知识预先学习进神经网络中，并通过参数化空间实现...
2024-05-16 17:31:35
12
转载 直播预告｜2024 AI+研发数字峰会（AiDD）主论坛即将开启
伴随着人工智能（AI，特别是大语言模型）在众多行业领域的广泛应用及其带来的颠覆性变革，软件的开发模式、方式和实践都可能会发生巨大的变化。为助力更多企业在人工智能的浪潮中乘风破浪，“AI+研发数字峰会（AiDD）”应运而生，旨在帮助更多企业借助AI技术，使计算机能够更深入地认知现实世界，推动研发全面进入数智化时代。大会论坛Al原生应用开发黄川百度搜索主任架构师探讨基于A技术、LM开发应用软件的思想、...
2024-05-16 17:31:35
16
转载 【ICML2024】双曲几何潜在扩散模型用于图生成
来源：专知本文为论文介绍，建议阅读5分钟我们提出了一种新颖的几何潜在扩散框架 HypDiff。扩散模型在计算机视觉领域取得了重大进展，最近在社区内引发了对其在图生成中的应用的广泛兴趣。现有的离散图扩散模型表现出较高的计算复杂性和较低的训练效率。直接在潜在空间中扩散图是一种更优越且自然的方式。然而，由于图的非欧几里得结构在潜在空间中并不各向同性，现有的潜在扩散模型难以有效捕获和保留图的拓扑信息。为...
2024-05-15 17:02:37
12
转载 循环编码：时间序列中周期性特征的一种常用编码方式
来源：Deephub Imba本文约2500字，建议阅读5分钟本文介绍了时间序列预测或理解展示周期性特征的序列。在深度学习或神经网络中，"循环编码"（Cyclical Encoding）是一种编码技术，其特点是能够捕捉输入或特征中的周期性或循环模式。这种编码方法常用于处理具有周期性行为的任务，比如时间序列预测或理解展示周期性特征的序列。循环编码的核心思想是将数据的周期性特征转化为网络能够理解...
2024-05-15 17:02:37
16
原创 原创｜手把手教你构建评分卡模型
作者：胡赟豪本文约2800字，建议阅读5分钟本文介绍了构建评分卡模型。一、背景在各种机器学习、深度学习模型快速发展的当下，评分卡模型作为一种可解释机器学习模型，仍然在金融、营销等领域被广泛使用。这一模型通过构建一组基于输入变量的评分规则，能够直观地对样本进行评分，非常易于理解和操作。举一个金融信用风险评分卡的例子，要判断一笔贷款能够被按时偿还的风险大小，可以设置这样一个评分卡：是...
2024-05-15 17:02:37
959
转载 【ICML2024】超图增强的双半监督图分类
来源：专知本文为论文介绍，建议阅读5分钟我们提出了一个名为 HEAL 的超图增强 DuAL 框架，用于半监督图分类，从超图和线图的角度分别捕获图的语义。这篇论文研究了半监督图分类，在有限标记图和大量未标记图的情况下，旨在准确预测图的类别。尽管图神经网络（GNNs）具有很强的能力，但它们通常需要大量昂贵的标记图，而大量未标记图未能有效利用。此外，GNNs 在使用消息传递机制编码局部邻域信息方面固...
2024-05-14 17:02:32
11
转载 图机器学习入门：基本概念介绍
来源：DeepHub IMBA本文约2600字，建议阅读5分钟本篇文章将从基础开始介绍什么是图，我们如何描述和表示它们，以及它们的属性是什么。图机器学习（Graph Machine Learning，简称Graph ML）是机器学习的一个分支，专注于利用图形结构的数据。在图形结构中，数据以图的形式表示，其中的节点（或顶点）表示实体，边（或链接）表示实体之间的关系。本篇文章将从基础开始介绍什么是...
2024-05-14 17:02:32
12
转载 独家｜评估大型语言模型（LLM）系统：指标、挑战和最佳实践
作者：Jane Huang、Kirk Li 和 Daniel Yehdego翻译：陈之炎校对：zrx本文约7300字，建议阅读10分钟本文介绍了评估大型语言模型。照片由 Jani Kaasinen 在 Unsplash 上拍摄在日新月异的人工智能（AI）领域，大型语言模型（LLMs）的开发和部署业已成为塑造多领域智能应用的关键技术。然而，技术的实现尚需对系统做出严格的评估。在深入探讨评...
2024-05-14 17:02:32
22
转载 【剑桥大学博士论文】使用Dataflow实现可维护和可解释的AI系统
来源：专知本文约1000字，建议阅读5分钟机器学习正迅速发展，既作为蓬勃发展的学术学科，又作为一种有潜力改变我们日常生活方方面面的技术。我们已经见证了语音生成、药物发现、推荐算法等领域的突破，这些都得益于机器学习的帮助。务必认识到，任何机器学习的实际应用不仅限于在经过清理的数据集上创建一个准确的模型。这些现实生活中的应用是复杂的软件系统，其中模型虽然重要，但只是一个组件。大量精力也花在创建数据...
2024-05-13 17:02:24
8
转载 LeCun哈佛演讲PPT放出：唱衰自回归LLM，指明下一代AI方向
来源：机器之心本文约3300字，建议阅读5分钟LeCun 一如既往地不看好自回归 LLM。LeCun 一如既往地不看好自回归 LLM。机器如何能像人类和动物一样高效地学习？机器如何学习世界运作方式并获得常识？机器如何学习推理和规划……当一系列问题被提出时，有人回答自回归 LLM 足以胜任。然而，知名 AI 学者、图灵奖得主 Yann LeCun 并不这么认为，他一直唱衰自回归 LLM。近日 L...
2024-05-13 17:02:24
12
转载 ICLR 2024 | 跨领域准确进行零样本异常检测，浙大等提出AnomalyCLIP
来源：机器之心 PaperWeekly本文约2500字，建议阅读5分钟本文为你介绍首个基于 object-agnostic 的零样本异常检测方法。零样本异常检测（ZSAD）允许检测模型仅利用辅助数据进行训练，从而在没有任何目标数据集训练样本的情况下检测异常。这在因各种原因（如数据隐私问题）无法获取训练数据时非常关键。然而，这项任务面临的挑战在于，模型需要能够跨不同领域泛化异常检测能力，尤其是前...
2024-05-13 17:02:24
22
转载 谷歌发布 HEAL 架构，4 步评估医学 AI 工具是否公平
本文约3200字，建议阅读5分钟让世界人口享有更公平的健康。面向健康公平问题，Google 团队开发了 HEAL (The health equity framework) 框架，能够定量评估基于机器学习的医疗健康方案是否「公平」。如果把维持健康状态想象成一场赛跑，并不是所有人都能够站在统一起跑线上，有的人能够平稳的跑完全程，有的人即使跌倒也能够在第一时间获得帮助，但是有些人可能因为经济条件、居...
2024-05-12 17:00:45
7
转载 AI 找出限制抗生素耐药性的最佳治疗策略，预防「超级细菌」
来源：ScienceAI本文约1200字，建议阅读5分钟抗生素将人类平均寿命至少提高了十年以上。但抗生素的作用已不如以前，部分原因是抗生素的广泛使用。抗生素将人类平均寿命至少提高了十年以上。但抗生素的作用已不如以前，部分原因是抗生素的广泛使用。「世界各地的卫生机构一致认为，我们正在进入后抗生素时代，」克利夫兰诊所（Cleveland Clinic）医学博士 Jacob Scott 解释道。「如...
2024-05-12 17:00:45
10
转载 【书籍】高级线性代数，第二版
来源：专知本文为书籍介绍，建议阅读5分钟该书在基础计算线性代数和更高级、抽象的线性代数之间架起了一座桥梁，而后者在许多纯数学和应用数学领域中都非常需要。这本书适用于高级本科生和初级研究生，涵盖线性代数或抽象代数的理论方面，同时提供例子、计算和证明。《高级线性代数》探讨线性代数中的各种高级主题，突显其与几何、代数、分析、组合学、数值计算及其他数学领域之间的紧密联系。作者首先通过章节介绍向量空间、排...
2024-05-12 17:00:45
13
转载 IEEE RAL 2024 | Safe-VLN：针对连续环境中视觉语言导航任务的避障框架
本文约3800字，建议阅读7分钟本文对 VLN-CE 领域的碰撞问题进行了全面的分析，奠定了 VLN 在实际应用中部署的基础。论文题目：Safe-VLN: Collision Avoidance for Vision-and-Language Navigation of Autonomous Robots Operating in Continuous Environments论文链接：http...
2024-05-12 17:00:45
15
转载 【伯克利博士论文】解耦视觉生成模型
来源：专知本文为论文介绍，建议阅读5分钟本论文探讨了可扩展的归纳偏差，解锁了生成模型对视觉数据的解耦理解，从而实现更丰富的交互和控制。生成建模承诺为学习图像和视频等高维数据分布提供一种优雅的解决方案——但我们如何揭示和利用这些模型发现的丰富结构呢？除了生成新样本之外，智能体还能如何利用 p(x) 作为了解世界运作方式的知识来源呢？本论文探讨了可扩展的归纳偏差，解锁了生成模型对视觉数据的解耦理...
2024-05-11 17:01:09
13
转载 LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
来源：Deephub Imba本文约3200字，建议阅读5分钟本文介绍了LLM2Vec和将Llama 3转换为嵌入模型代码。嵌入模型是大型语言模型检索增强生成(RAG)的关键组成部分。它们对知识库和用户编写的查询进行编码。使用与LLM相同领域的训练或微调的嵌入模型可以显著改进RAG系统。然而，寻找或训练这样的嵌入模型往往是一项困难的任务，因为领域内的数据通常是稀缺的。但是这篇论文...
2024-05-11 17:01:09
35
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人