谷歌Gemini 1.5技术报告：轻松证明奥数题，Flash版比GPT-4 Turbo快5倍

最新推荐文章于 2024-06-02 18:21:33 发布
最新推荐文章于 2024-06-02 18:21:33 发布
阅读量834 收藏 22
点赞数 10
分类专栏： ChatGPT ai人工智能 文章标签： 人工智能 语言模型 自然语言处理 算法 chatgpt
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Vicky_Victory/article/details/139033284
版权

    ChatGPT狂飙160天，世界已经不是之前的样子。
新建了免费的人工智能中文站https://ai.weoknow.com
新建了收费的人工智能中文站https://ai.hzytsoft.cn/

更多资源欢迎关注

谷歌表示，Gemini 1.5 相比 Claude 3.0 和 GPT-4 Turbo 实现了代际提升。

今年 2 月，谷歌上线了多模态大模型 Gemini1.5，通过工程和基础设施优化、MoE 架构等策略大幅提升了性能和速度。拥有更长的上下文，更强推理能力，可以更好地处理跨模态内容。

本周五，Google DeepMind 正式发布了 Gemini 1.5 的技术报告，内容覆盖 Flash 版等最近升级，该文档长达 153 页。

图片

技术报告链接：https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf

在本报告中，谷歌介绍了 Gemini 1.5 系列模型，它是代表了下一代高计算效率的多模态大模型，能够从数百万 token 上下文中调用细粒度信息并进行推理，包括多个长文档、数小时的视频。

该系列包括两个新型号：

  1. 更新的 Gemini 1.5 Pro，其大部分功能和基准都超过了 2 月份的版本

  2. Gemini 1.5 Flash，一种更轻量级的变体，专为提高效率而设计，并且在性能方面的减益很小。

有关本周谷歌 I/O 大会上提到的 Flash 版，报告中表示，Gemini 1.5 Flash 是一个 Transformer 解码器模型，具有与 Gemini 1.5 Pro 相同的 2M+ 上下文和多模态功能，旨在高效利用张量处理单元 (TPU)，并具有较低的模型服务延迟。例如，Gemini 1.5 Flash 可以并行计算注意力和前馈分量，并且也是拥有更大网络在线提取能力的 Gemini 1.5 Pro 模型。它使用高阶预处理方法进行训练以提高质量。

报告评估了从 Gemini 1.5 和 Vertex AI 流 API 中获取的英语、中文、日语和法语查询的每个输出字符的平均时间。

图片

英语、中文、日语和法语响应的每个输出字符的时间（毫秒），在输入 1 万个字符的情况下，Gemini 1.5 Flash 在所有测试的语言中实现了最快生成速度。

图片

Gemini 1.5 Pro、1.5 Flash 和 Gemini 1.0 模型在标准编码、多语言以及数学、科学和推理基准上的评估结果。1.5 Pro 和 1.5 Flash 的所有数字都是在指令调整后获得的。

图片

Gemini 1.5 Pro 与 Gemini 1.0 Pro 和 Ultra 在视频理解基准上的比较。

图片

Gemini 1.5 Pro 与 USM、Whisper、Gemini 1.0 Pro 和 Gemini 1.0 Ultra 在音频理解任务上的比较。

Gemini 1.5 模型在跨模态的长上下文检索任务上实现了近乎完美的召回，提高了长文档 QA、长视频 QA 和长上下文 ASR 的最优水平，并匹配或超越 Gemini 1.0 Ultra 在一系列广泛的基准测试中表现出最先进的性能。此外，谷歌也表示，到今年 5 月，Gemini 1.5 的性能相比 2 月份已有明显提升。

图片

Gemini 1.5 Pro（5 月）与初始版本（2 月）在多个基准测试中的比较。最新的 Gemini 1.5 Pro 在所有推理、编码、视觉和视频基准测试中进行了改进，而音频和翻译性能保持不变。注意，对于 FLEURS，分数越低越好。

Google DeepMind 副总裁，Gemini 项目联合负责人 Oriol Vinyals 总结道，Gemini 1.5 Pro > 1.0 Ultra、1.5 Flash（目前最快型号） ~= 1.0 Ultra。

图片

通过研究 Gemini 1.5 的长上下文能力的极限，我们可以看到在下一个 token 预测和近乎完美的检索（>99%）方面持续改进。相比 Claude 3.0 (200k) 和 GPT-4 Turbo (128k) 等现有模型实现了一代的飞跃。

在报告的第七章节，谷歌介绍了 Gemini 1.5 Pro 数学增强版本的跑分，它在竞赛级数学问题上表现出色，包括在未使用工具的情况下在 Hendryck 的 MATH 基准测试中取得了 91.1% 的突破级性能。

以下是该模型解决亚太数学奥林匹克（APMO）题目的一些示例，这些问题是此前模型显然无法解决的。Oriol Vinyals 表示，这个回答相当棒，因为它是一个证明（而不是计算），解决方案切中要害，而且「很漂亮」。

图片

最后，谷歌重点介绍了大模型在现实世界的用例，例如 Gemini 1.5 与专业人士合作完成任务并实现目标，在 10 个不同的工作类别中可节省 26-75% 的时间。

这种前沿大语言模型也展示出了一些令人惊讶的新功能。当给定 Kalamang（一种巴布亚新几内亚西部不到 200 人使用的语言）的语法手册时，该模型可以学会将英语翻译成 Kalamang，与从相同内容中学习的人类处于相似的水平。

    ChatGPT狂飙160天，世界已经不是之前的样子。
新建了免费的人工智能中文站https://ai.weoknow.com
新建了收费的人工智能中文站https://ai.hzytsoft.cn/

更多资源欢迎关注

Vicky_Victory
关注
  • 10
    点赞
  • 踩
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Google：Gemini 1.5跨数百万上下文令牌解锁多模态理解技术报告（中文）
02-19
Google：Gemini 1.5跨数百万上下文令牌解锁多模态理解技术报告（中文）
中文版Gemma技术报告-16页.pdf
04-05
【中文版】Gemma技术报告
Gemini-mi5:小米Mi5（Gemini）的自定义ROM-开源
05-30
小米5（代号“Gemini”）是小米的高端智能手机。 它于2016年2月宣布，有三种口味。 发布日期是 2016 年 4 月。
谷歌和DeepMind，决定停止内耗，合作打败GPT-4
03-31
Alphabet 旗下的两大 AI 实验室——Google Brain AI 团队与开发过 Alpha GO 的 DeepMind 正携手开发新软件，以应对 OpenAI 的 ChatGPT 带来的竞争压力。 Google 和 DeepMind 此前虽然说是兄弟公司，但两者更像是一种竞争关系，自 2014 年 Google 花 4 亿英镑收购 DeepMind 以来，DeepMind 一直保持很大程度的独立运营。 DeepMind 会提供一些技术帮助 Google 改进产品和服务，除此之外很少会有直接的合作或共享计算机代码。 ChatGPT 的出现打破这种微妙的平衡。据报道，Google Brain AI 团队与 DeepMind 的员工都认为，OpenAI 已经超越了他们，并挖走了两家实验室的一些关键工程师和研究员，这种压力迫使两个团队放下激烈的竞争，联合起来“一致对外”。 Google 与 DeepMind 的合作在内部被称为 Gemini（双子座）项目，由 Google Brain 的负责人 Jeff Dean 主管技术，带领团队开发出能够比肩 GPT-4 的模型，这
gemini-python：Gemini API和Websocket的python客户端
01-31
双子蟒 Gemini API和Websocket的python客户端 入门 安装 pip install gemini_python 公共客户 该终结点不需要api键，并且可以在没有Gemini帐户的情况下使用。 该自述文件将记录该类的一些方法和功能。 import gemini r = gemini . PublicClient () # Alternatively, for a sandbox environment, set sandbox=True r = gemini . PublicClient ( sandbox = True ) PublicClient方法 r . symbols () r . get_ticker ( "BTCUSD" ) r . get_current_order_book ( "BTCUSD" ) # Will get the latest 500 trades r . get_trade_history ( "BTCUSD" ) # Alternatively, it can be specified for a specific da
最新、最智能的AI：Claude 3 - 与Gemini 1.5 和 GPT-4 的对比评测
litaibai2023的博客
03-08 728
然而，在某些情况下，它需要针对问题的重大提示才能成功，突出了开发真正自主和自给自足的AI系统的持续挑战，即使是最先进的语言模型也是如此。它在各种基准和任务上出色的表现，加上遵循复杂指示的能力及其在企业应用如任务自动化、研发、战略和财务分析等方面的潜力，使其在AI领域中成为了一个强大的竞争对手。然而，追求更智能的语言模型的比赛仍在继续，其他实验室将在不久的将来发布甚至更先进的模型。然而，在演讲者的提示和坚持下，它最终给出了正确答案——九个苹果，这表明它在解答简单问题时具备推理能力，尽管需要一定的引导。
OpenAI模型GPT-4o、GPT-4、Gemini 1.5性能比较
csdn1561168266的博客
05-25 1071
大家好，OpenAI最新推出的GPT-4o，标志着人工智能语言模型和交互方式迈入了新纪元。最引人注目的是，GPT-4o支持实时互动和流畅的对话切换，让交流更加自然。本文将对比分析GPT-4o、GPT 4以及谷歌的Gemini和Unicorn模型，分析是基于一个独立创建的英文数据集，对这些模型在分类任务上的表现进行深入比较。
GPT-4 Turbo的今日开放了！ChatGPT会带来一些失业潮吗？
qq_41308489的博客
04-15 615
响应更快了！提高了写作、数学、逻辑推理和编码方面的能力。上下文提升到128K知识库更新到 2024年4月目前，没有大模型比OpenAI的ChatGPT-4 Turbo更强的了，GPT-4 Turbo 让Open AI 重回榜一，Claude3封号又严重，现在GPT-4 Turbo 比 Claude 3 还强。几乎可以考虑，使用GPT-4 Turbo就行了。另外，建议大家使用官网原生的GPT，别用套壳的了。原汁原味更有味道～而有些人看到了就业，有些人看到了失业。这个取决于你自己的执行力。
探索GPT-4 Turbo的卓越性能与gpt-4-turbo-2024-04-09的视觉革新
龙萱坤诺的专栏
04-10 644
更新的训练数据：GPT-4 Turbo的训练数据知识截止至2023年4月，而gpt-4-turbo-2024-04-09模型的数据更新至2023年12月。视觉能力：gpt-4-turbo-2024-04-09模型自带读图能力，这是GPT-4 Turbo的一个重要升级，使得模型不仅能够处理文本输入，还能够理解和生成与图像内容相关的文本，进一步扩展了模型的应用范围。GPT-4 Turbo和gpt-4-turbo-2024-04-09是OpenAI推出的先进的大型语言模型，它们在多个方面展现出显著的优势。
免费gpt4系列、claude-3、gemini 等模型傻瓜式开箱即用
05-29
在人工智能领域，GPT-4Free提供了一个无与伦比的机会，让每个人都能够接触并利用最新的GPT-4技术。对于Windows用户来说，GPT-4Free通过一个简单的exe程序，使得安装和使用过程变得无比简单。一旦启动该应用，它将在...
每日论文推荐：我们距离GPT-4V有多远，最接近GPT-4V的开源多模态大模型
林夕
04-28 654
📌 元数据概览：✨ 核心观点与亮点：📚 论文的核心内容，模型结构，关键术语/概念：🌟 实验结果：🔄 总结归纳：❓ 引发思考的问题：
Gemini1.5
whaosoft143ai的博客
02-16 404
在文本、代码、图像、音频、视频评估综合面板上进行测试时，1.5 Pro 在用于开发大型语言模型 (LLM) 的基准测试中，87% 的性能优于 1.0 Pro。在 NIAH 评估中，故意将包含特定事实或陈述的一小段文本放置在很长的文本块中，1.5 Pro 99% 的时间都能找到嵌入的文本，在数据块中如下只要 100 万个 token。Gemini 1.5 建立在谷歌基础模型开发和基础设施的研究与工程创新的基础上，包括通过新的专家混合 (MoE) 架构使 Gemini 1.5 的训练和服务更加高效。whao
强化学习——学习笔记
qq_52302919的博客
05-27 1373
强化学习问题通常可以建模为一个马尔可夫决策过程，包括以下几个要素：1、状态集合 (State Set)：S；2、动作集合 (Action Set)：A；Ps′∣saPs′∣sa，描述在状态s下执行动作a后转移到状态s′s^′s′的概率；Rsas′Rsas′，描述在状态s 下执行动作a并转移到状态s′后获得的奖励。πa∣sπ (a∣s)πa∣s，描述智能体在状态s下选择动作a 的概率。
pytorch学习笔记5
最新发布
drarad的博客
06-02 796
前向钩子（forward hook）在模块的前向传播开始时触发，前向后钩子（forward pre-hook）在前向传播之前触发，反向钩子（backward hook）在反向传播过程中触发。总结来说，钩子提供了一种在 PyTorch 模型的执行过程中插入自定义代码的方法，使得用户可以灵活地调试、监控和扩展模型的功能。作用: 这是一个内部的 C 语言指针，指向张量在底层库（通常是 C++ 实现的 PyTorch 核心）中的具体数据结构。这些钩子可以在张量的梯度计算之前或之后执行自定义的操作。
AI开发初体验：昇腾加持，OrangePi AIpro 开发板
上周的博客
05-27 1304
因为工作需要，以及个人兴趣，本人经常购买开发板进行调试、学习，但具备AI计算的开发板，本人尚未体验过，究其原因，是因为自觉知识储备可能无法胜任AI的开发工作。然而，在体验了OrangePi AIpro 开发板之后，却大大改变了我的看法——AI时代，真的已经来临！OrangePi AIpro 开发板是香橙派联合华为精心打造的高性能 AI 开发板，其内置华为昇腾 AI 处理器，作为国产AI 芯片翘楚，实乃开发板的一大亮点！
AI Agent：人类工作范式的颠覆者还是人机协作新范式？
Baihai_IDP的博客
05-29 663
生成式 AI 只是人工智能发展的开端，未来可能会出现更先进的 AI 智能体系统（AI Agent），我们应当重视 Andrew Ng（译者注：Andrew Ng 是斯坦福大学计算机科学系和电气工程系的客座教授，曾任斯坦福人工智能实验室主任。作者相信人工智能的未来必将呈现出更智能、更自主的 AI Agent 形态。但是 AI Agent 强调的是综合智能，包括但不限于决策制定、环境交互和跨领域的知识应用，这样的智能系统能够适应更复杂的任务需求，并在与人的交流合作中展现出更强的灵活性和实用性。
AI推文神器，绘唐ai，文刻创作出品，sdmj二合一虹猫
2401_84285498的博客
05-28 595
然而，值得注意的是，AI推文神器虽然能够生成高质量的推文内容，但仍然需要人类的审查和修改。因为它虽然能够模仿人类的写作风格，但仍然无法完全理解人类的情感和语境，因此在使用AI推文神器时，人类编辑和审阅的角色仍然十分重要，以确保推文的准确性和符合品牌形象。AI推文神器的工作原理是通过自然语言处理和机器学习算法，将用户输入的关键词、主题或简要描述转化为语义信息，然后结合相关数据和模型，生成相应的推文内容。它通过分析大量的文字和数据，学习并模仿人类的写作风格和推文技巧，从而能够生成独特、有吸引力的推文内容。
生命在于学习——Python人工智能原理（2.1）
易水哲的博客
05-27 1605
机器学习是指从有限的观测数据中学习出具有一般性的规律。
Google Gemini
01-13
Google Gemini是Google推出的一种广告平台，旨在帮助广告主在移动设备上展示广告。它提供了一种全新的广告投放方式，可以根据用户的兴趣和行为定位广告，从而提供更加精准的广告投放效果。 Gemini广告平台的特点包括： 1. 移动优先：Gemini广告平台专注于移动设备上的广告投放，可以帮助广告主更好地触达移动用户。 2. 定位广告：Gemini广告平台可以根据用户的兴趣和行为定位广告，从而提供更加精准的广告投放效果。 3. 多种广告格式：Gemini广告平台支持多种广告格式，包括图片广告、视频广告和原生广告等。 4. 数据驱动：Gemini广告平台通过分析用户的数据，可以提供更加精准的广告投放策略，从而提高广告的转化率和效果。 以下是一个使用Gemini广告平台的示例代码： ```python import googleads # 创建一个广告客户端 client = googleads.AdWordsClient.LoadFromStorage() # 创建一个广告组 ad_group = { 'name': 'Gemini Ad Group', 'status': 'ENABLED', 'campaignId': 'INSERT_CAMPAIGN_ID_HERE', 'biddingStrategyConfiguration': { 'biddingStrategyType': 'MANUAL_CPC', }, } # 创建一个广告 ad = { 'headline': 'Gemini Ad', 'description': 'This is a Gemini ad.', 'finalUrls': ['http://www.example.com'], } # 将广告添加到广告组中 ad_group_service = client.GetService('AdGroupService') ad_group_operations = [{ 'operator': 'ADD', 'operand': ad_group, }] ad_group_service.mutate(ad_group_operations) # 将广告添加到广告组中 ad_service = client.GetService('AdService') ad_operations = [{ 'operator': 'ADD', 'operand': ad, }] ad_service.mutate(ad_operations) ```

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值