强化学习曾小健

在这个由清华系引领的创业新浪潮中，我们见证了一个重要转变：从学术研究到市场创新，从理论洞见到实践应用，一代又一代的优秀人才正在利用商业的力量将科技进步转化为现实世界的解决方案。越来越多的年轻创业者正在以独特的视角和方法，推动着行业的创新和变革。与之前互联网时代的创业潮流不同，这一轮大模型技术的兴起更注重合作与共赢，而非简单的竞争对抗。清华背景的创业者们已经用他们的行动和成果证明了这一点：他们的工作不仅仅是追求技术上的突破，更是在建立一个包容、创新和共享的新生态系统。

诺奖得主DeepMind CEO最新万字访谈：视AI为普通技术错误，AGI还差2 到 3 项重大创新AI寒武纪2024年10月18日 10:31江苏AI寒武纪Attention Is All You Need336篇原创内容公众号谷歌DeepMind CEO Demis Hassabis说，将人工智能视为普通技术是错误的，人工智能将具有“划时代的意义”，很快将治愈所有疾病、解决气候和能源问题并丰富我们的生活，AGI大概需要 10 年时间，因为还需要 2 到 3

在高盛上个月发布的生成式AI报告中，分析师Jim Covello对AI行业发表了严厉的批评：「为了从昂贵的AI技术中获得足够的回报，AI必须解决非常复杂的问题，但目前它还做不到，甚至可能永远做不到。例如，一些研究假设生成式AI将加速机器人技术的发展和采用，或者认为最近生成式AI的进展预示着「超级智能」的出现。然而，尽管对AI的乐观情绪让许多大型科技股的估值达到了较高水平，最大的10只TMT股票的估值达到了31倍，但与科技泡沫高峰期的52倍和2021年末的43倍相比，仍然显得逊色。

微软最新推出的人工智能语言模型Phi-3 mini，已在arXiv预印本服务器亮相，这是继Phi-1和Phi-2之后的进阶版本。请注意，此图表中的有害响应百分比是夸大的数字，因为红队试图以对抗性方式诱导 phi-3-mini，以通过多轮对话产生有害响应。Phi-3 mini模型以其相对较小的体积和优化的性能，预计将为用户带来更多灵活和高效的使用场景。微软强调，尽管Phi-3 mini的规模较小，其性能却能媲美GPT-3.5及其他一些大型语言模型（LLM），在小型设备上也能展现出惊人的处理能力。

Lex Fridman，生于1983年8月15日，是一位俄罗斯裔美国计算机科学家和播客主持人。他主持Lex Fridman播客，在播客中他采访科学、技术、体育和政治等各个领域的知名人士嘉宾。Fridman于2018年开始了他的播客，并于2019年声名鹊起，此前他与人合著了一项未经同行评审的研究，该研究得出结论，驾驶员在使用特斯拉的半自动驾驶系统时保持专注，该系统得到了埃隆·马斯克的积极回应，但受到了人工智能专家们的批评。

作为全球范围内软件和企业服务的头牌大厂，微软在AI领域拥有广泛的产品和服务体系，涵盖了从基础的机器学习工具到高级的企业级智能应用平台。数十年来，微软持续在AI相关领域进行基础研究和投入，微软研究院在自然语言处理、语音识别、计算机视觉等领域拥有强大的研究基础和技术积累，为开发者和企业提供了丰富的选择和解决方案支持，推动着全球人工智能技术的发展和应用落地。微软强调AI技术和解决方案能帮助企业和组织在各个层面优化运营并发现新的价值机会。

第一：相比上个版本，各项测试能力直线上升，

Gelsinger提到，他们已经从客户和合作伙伴那里获得了对Goudie 3的积极反馈，一些知名企业如Bosch、Landing AI和seeker已经开始使用Intel的Goudi技术，更多的公司很快就能接触到这项技术，因为它将在未来几个月内提供给制造商，并将在之后更广泛地推向市场。迄今为止，AI在完成快速简单的任务上表现出色，但在处理更复杂的任务或进行广泛思考方面还有待提高。在伦敦的一场技术活动中，Meta的Yan Lacun指出，目前的AI并不擅长提前规划或谨慎选择言辞，这也是它有时会犯错误的原因。

通过这些有关人工智能及其趋势的统计数据，可以肯定地说，人工智能正在崛起，而且无法阻止。

原创 安然 深网腾讯新闻 2024-04-10 14:02 北京来源：视觉中国作者丨安然 编辑丨虞尘出品丨深网·腾讯新闻小满工作室AI光年/追踪中国AGI崛起之路Kimi走红，最大的压力将给到百度。因为Kimi的背后，已站着阿里的身影。 就在国内大模型竞争处于焦灼状态时，创业公司月之暗面却靠着kimi智能助手的“200万字长文本”率先出圈，甚至还催生了“Kimi概念股”。 Kimi的优势仅领先一个星期。随着阿里通义千问、百度文心一言等宣布免费开放200万—500万甚至1

原创 花哥福建关注我，关注Ai大模型的全部信息！8篇原创内容公众号大模型发展竞争愈发激烈。全球瞩目的文生视频Sora、谷歌Gemini 1.5、Meta的V-JEPA以及超越GPT4的Claude3相继发布。Open AI的GPT5也即将问世。奥特曼不仅自研芯片，还投资可控核聚变公司，以算力和能源为未来储备关键资源。

GenAI X土耳其AI明星创业公司购买英伟达GPU，估值迅速增长，但实际投入与收入之间存在巨大差距。高成本和技术发展之间的平衡成为AI行业的讨论焦点……成立不到半年，估值达到20亿美元！AI程序员Devin的母公司杀疯了。Cognition AI正式成立于2023年底，种子轮融资估值就已经高达3.5亿美元！Cognition Labs的团队创始团队的10枚IOI金牌的「含金量」恐怖如斯。而在产品首个版本上线几周之后，他们就火速展开下一轮融资，并且估值一下就翻了6倍。

演讲中，卡尼曼提出了人类的“两种自我”——“经验自我”和“记忆自我”，经验自我活在当下，感受和体验每一个瞬间，而记忆自我则负责记录和讲述生活故事。在后来的访谈中，卡尼曼对此进一步解释说，在他十几岁的这个阶段，他发现相比于“上帝是否存在”，他对“人们相信上帝的原因”更感兴趣。，人们往往表现出风险厌恶，偏好确定的小收益，比如在100%概率获得1000元和50%概率获得2000元之间，虽然二者的数学期望相同，但更多人倾向于选择前者。进一步地，卡尼曼在此之上探讨了快乐的本质和人们对快乐的不同认知方式。

尽管我们正处在一个数据匮乏的时代，但OpenAI和Anthropic等公司正在积极开发更优质的合成数据，以此来克服挑战。他们的方法虽然还不完全透明，但意味着我们可能不远的将来会看到一些重大的技术突破。面对这种情况，一个可行的方案浮现，AI公司可以选择停止追求规模更大、更复杂的模型。如今，随着开放互联网的数据濒临枯竭，AI界面临了一个前所未有的挑战。我们的选择不仅会影响技术的未来，更会触及我们与这个世界共存的方式。《华尔街日报》的报告指出，这种做法不仅可能引发模型的幻觉，而且还可能导致“

我们意识到，那种你提出一个问题，然后立即从 AI 得到一个答案的聊天式体验，更有可能是与 AI 互动的最佳方式，而不是 Quora 的发布提问等待回答的模式。作为 Meta 的前 CTO，Quora CEO Adam D'Angelo 目前还是 OpenAI 的董事会成员，在 Quora 之外推出的 Poe，成为当下接入大模型最多的 Chatbot 平台：GPT-4、Claude3、Mistral 等模型都有，用户也可以在上面搭建自己的 Chatbot 机器人，如果有别的用户使用，还可以产生收益。

以大规模预训练语言模型为基础的chatgpt成功出圈，在近几日已经给人工智能板块带来了多次涨停，这足够说明这一风口的到来。而作为曾经的风口“知识图谱”而言，如何找到其与chatgpt之间的区别，找好自身的定位显得尤为重要。形式化知识和参数化知识在表现形式上一直都是大家考虑的问题，两种技术都应该有自己的定位与价值所在。知识图谱构建往往是抽取式的，而且往往包含一系列知识冲突检测、消解过程，整个过程都能溯源。以这样的知识作为输入，能在相当程度上解决当前ChatGPT的事实谬误问题，并具有可解释性。

不久前Sam Altman在Lex Friedman最新的播客采访中提到过，OpenAI的目标绝不是给世界带来令人震惊的更新，而是恰恰相反，渐进式达到每一个里程碑，因此下一代LLM会考虑以一种新的形式与公众见面。最新推特是今天刚刚发布的准备与小部分美国开发者合作，测试基于访问量的GPT盈利模式的消息。如果说Anthropic发布Claude 3时引发的“大模型王位易主”讨论还存在参数争议，那么经过近一个月的场下实测，Claude 3的确用实力证明了自己比GPT-4更能打，成为目前LLM争霸赛的最大赢家。

原创 科学四十人 知识分子 2024-03-26 08:26 北京 导 读 《科学四十人》系列座谈第八期（左起，薛澜、李航、张宏江、周忠和）大家好，我是知识分子总编辑周忠和，自2022年11月30日ChatGPT发布以来，全球范围内掀起了有史以来规模最大的人工智能浪潮。在过去短短的一年多时间里，ChatGPT4.0和文生视频的大模型SORA相继发布，就在不久前，Openai的竞争对手Anthropic发布的新一代大模型Claude 3甚至被认为全面超越了GPT-4。全球都在热烈讨论AGI——也就是我们

当时学术会议审稿人的反应不一，一个评价积极，一个评价非常积极，第三个评价是只是“还算ok”。到了12月会议正式线下举办的时候，这篇论文引起了轰动。4小时的会议上挤满了想要了解更多的科学家。参会的几位作者一直聊到嗓子嘶哑，最后场地闭馆时仍然人头攒动，最后被保安清场。从整个Transformer诞生历程来看，

关注实测在此一款号称代码能力超越GPT-4的模型，引发了不少网友的关注。准确率比GPT-4高出超过10%，速度却接近GPT-3.5，而且窗口长度也更长。据开发者描述，他们的模型取得了74.7%的Pass@1通过率，超过了原始GPT-4的67%，登上了Big Code榜首。这个模型名叫Phind，和以其为基础的面向开发者的AI搜索工具同名。它是由开发团队在CodeLlama-34B的基础之上微调得到的。

比如，那些知识是模型允许生成的，哪些知识是模型不允许生成的，类似于检索模型Rag，用来对数据文本进行分类、定级，决定什么样的内容适合做什么样的推理运算。所有现有的发明、创新、AI应用都可以追溯到你们刚刚发布Transformer的时候，以一种有序的方式从海量数据集（包括有序数列和空间数列）中进行学习，找到各数据组之间的关系和运行模式来设计算法模型是一件极具变革意义的事情，你们也是这方面的专家。因此，我们认为对这一进展的衡量，也是创意的一种方式，是科学发展的一种方式，也是我们自动化发展的一种方式。

设置一个自己的专栏目录，方便查找。CSDN二级专栏和一级专栏没有上下级关系，很麻烦不直观。在一篇文章里直接用Ctrl+F都比CSDN内置的目录和分类方便。优先按专栏进行分类，此外列出面经和其他两个分类。只有CSDN不让发审核不过的文章，我一般会发到知乎、掘金或其他社区等其他技术网站上，并放在以下的目录中。

在快速发展的人工智能领域，两种著名的语言模型已经成为帮助开发人员进行编码工作的强大工具——Claude 3 和 GPT-4。在本文中，我们将探讨并比较 Claude 3 和 GPT-4 在各种编码场景中的性能。不过，由于这两个模型在模型设计原理上有所不同，GPT-4有更多经过验证和预训练的数据，未来GPT-4有可能提供更全面的结果。在快速发展的人工智能领域，两种著名的语言模型已经成为帮助开发人员进行编码工作的强大工具——Claude 3 和 GPT-4。Claude 3 与 GPT-4 编码，谁更好？

此外，Claude 3 模型针对部分客户可处理高达 100 万个 token（这一点与 Gemini Pro 1.5 相似），并且在如此庞大的上下文大小的基准测试中，Opus 模型实现了近乎完美的记忆性，准确率超过 99%。这一次，Anthropic 或许终于在性能方面赶超了 OpenAI 的模型。还记得 ChatGPT-3.5 刚火的时候，许多人在网上苦苦寻求入门途径，这时，一群前 OpenAI 员工和研究人员出走并创立了 Anthropic，主打安全的旗号，致力于开发更加安全、可控的人工智能系统。

🎯 文件中对推测时间线和模型开发的强调表明，通往AGI的道路并非线性的或确定的。💡 对文件的进一步探索揭示了AI的扩展法则的参考，特别是Deep Mind的“chinchilla”研究论文，该论文表明，即使参数较少，更多数据也可以显著提高性能。🔍 进一步深入文件，它提到了GPT-3和GPT-4.5等先前模型，揭示了内部命名变化和某些开发的取消，表明OpenAI内部有一个复杂和动态的路线图。🌐 文件深入探讨了快速AI发展的更广泛社会和伦理考虑，质疑OpenAI的进步对就业市场、公众意识和潜在风险的影响。

负责深度学习和人工智能研究的谷歌大脑（Google Brain），在高级研究员Jeff Dean的领导下，将数百万个来自YouTube的随机、无标签视频帧输入这台新的超级计算机，并对其进行编程，使其能够理解所看到的内容。可以说，是它自己发明了猫的概念。Geoffrey的姑妈之一，Joan Hinton是一位核物理学家，她以物理学家费米的学生的身份加入了曼哈顿计划，是为数不多的参与曼哈顿计划的女性之一。「很长一段时间以来，」他说，「我都觉得自己不是——好吧，我终于做到了，这让我能松了一口气了。

下一个十年，人工智能将走向认知智能，预训练大模型是其核心技术推动力和关键基础设施，让AI吸收更多的知识去理解和思考，最终实现接近人类水平的认知。同时该模型还支持英伟达、华为昇腾、海光DCU以及神威超算等多种芯片，支持快速推理，通过量化仅需4张英伟达RTX3090就可以运行千亿模型，实现真正的大模型普惠。2022/09/26 | 启明创投。