- 博客(1734)
- 资源 (9)
- 收藏
- 关注
转载 Meet Up 活动预约:首次!vLLM 中文社区活动!生成式 AI 推理技术,码上共享
活动主题亚马逊云科技联合 vLLM 社区开启的第一期线上中文 Meetup。你将有机会与 vLLM 核心开发者以及亚马逊云科技平台的贡献者进行深度交流。在本次活动中,我们会介绍 vLLM 的全新开发动态以及我们在生成式 AI 领域的前沿研究。同时,我们也会基于此次活动创建 vLLM 的第一个中文社区。我们希望利用这个活动了解更多开发者目前的使用习惯以及问题,从而帮助社区更好规划未来的发展路线。目前...
2024-07-17 18:27:39 80
转载 就地升级 Amazon MSK 预置集群到基于 Amazon Graviton3 的 M7G 实例
现在,您可以升级在基于 X-86 的 M5 或 T3 实例上运行的 Amazon Managed Streaming for Apache Kafka(Amazon MSK)预置集群,只需单击一下按钮即可将其替换为基于 Amazon Graviton3 的 M7G 实例。就地升级允许您将现有预置集群无缝切换为 M7G 实例类型,以提高性价比,同时继续为连接的客户端应用程序提供读写服务。在 Amaz...
2024-07-17 18:27:39 52
转载 在 Amazon SageMaker JumpStart 部署零一万物领先大模型,只需三步!
Amazon SageMaker JumpStart 上线的由零一万物提供的基础模型 Yi-1.5 6B/9B/34B,为中国企业提供丰富模型选择的同时满足了企业对安全合规、快速扩展、免运维的需求。作为首批登陆中国区域 Amazon SageMaker JumpStart 的中文基础模型,Yi-1.5 与亚马逊云科技托管服务深度集成,助力中国企业应用一流的生成式 AI 技术实现本土创新与业务转型。...
2024-07-16 16:06:23 84
转载 使用 PB 级数据仓库 Amazon Redshift 构建并对比自然语言查询
生成式AI 代表了 AI 技术的一大飞跃,不仅能理解和处理数据,还能创造新内容和解决方案。这类生成式 AI 的特点是能自动产生高质量和高效率的内容及数据处理方式,大幅拓宽了生成式 AI 的应用领域,尤其在自然语言处理(NLP)方面影响深远。使用自然语言进行数据查询是其关键应用之一,允许用户用自然语言查询数据库,简化了非技术人员的数据访问和分析。传统上需用复杂 SQL 语句操作数据库,这对非编程背...
2024-07-16 16:06:23 57
转载 直播预告|立即预约,玩转生成式 AI!商业潜力↗,工作压力↘
如何激发企业的商业潜力?利用生成式 AI ,您不仅可以提高工作效率,更能改善客户体验、优化业务流程。身处高速发展的生成式 AI 时代,还不了解什么是生成式 AI?可不能仅仅只保持好奇心,了解 ta 之后,您只会后悔没早点用到 ta!在本期直播中,亚马逊云科技明星导师将为您介绍生成式 AI的基本知识,以及企业如何将生成式 AI 带入到日常工作里。本次直播不仅有理论干货,还准备了限时的动手实验产品体...
2024-07-15 17:21:13 74
转载 在 Amazon Bedrock 中微调 Claude 3 Haiku 模型,以提高其准确性和质量
在 Amazon Bedrock 平台上,像 Anthropic Claude 这样的前沿大型语言模型 (LLM) 经过海量数据训练,具备了理解和生成类人文本的能力。通过在专有数据集上进行微调,Anthropic Claude 3 Haiku 能够针对特定领域或任务提供卓越的性能,这种微调过程代表了一种深度定制,使用您独特的数据来优化模型表现,是其区别于其他模型的关键优势。Amazon Bedro...
2024-07-15 17:21:13 132
转载 在 Amazon Console 和常用 IDE 中集成并使用 Amazon Q
❓在构建应用、代码生成时遇到问题,希望通过自然语言的方式进行交互,并寻求帮助????? Amazon Q 在应用程序开发过程的全周期中帮助开发人员和专业 IT 人员提高工作效率,增加知识并且提高技能。????????赶快点击视频,使用 Amazon Q 一起开启软件开发的新纪元!立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供全面的培训与认证内容...
2024-07-14 11:01:17 45
转载 模型的部署和微调优化:分布式计算
????????你知道如何使用分布式计算策略来有效扩展需要跨多个 GPU 的模型训练吗?❓你知道如何在不同模型当中选择适当的分布式计算策略吗?????一起来看本期视频,手把手教你如何在亚马逊云科技上使用 Amazon SageMaker 进行分布式计算和实现 FSDP!立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供全面的培训与认证内容,助你掌...
2024-07-13 11:01:49 45
转载 Amazon Graviton4 新一代 Arm 计算实例正式上线
亚马逊云科技宣布 Amazon EC2 R8g 实例正式上线。这些实例由 Amazon Graviton4 处理器提供支持,与基于 Amazon Graviton3 的实例相比,性能提升高达30%。Amazon EC2R8g 实例非常适合内存密集型工作负载,如数据库、内存缓存和实时大数据分析。这些实例基于 Amazon Nitro 系统构建,通过将 CPU 虚拟化、存储和网络功能卸载到专用硬件...
2024-07-12 21:07:03 52
转载 使用 Amazon App Studio(预览版)通过自然语言快速搭建企业级应用程序
本文作者 Donnie Prakoso亚马逊云科技首席布道师近日,我们隆重推出了 Amazon App Studio 公开预览版。App Studio 是一款基于生成式 AI 技术的服务,它能够利用自然语言在几分钟内构建企业级应用程序,无需专业的软件开发技能。企业在处理索赔、库存跟踪和项目审批等业务问题时经常面临挑战。定制化的业务应用程序能够为这些难题提供解决方案,帮助组织提高工作效率。然而,传统...
2024-07-12 21:07:03 211
转载 生成式 AI 又一里程碑!亚马逊云科技纽约峰会重磅发布解读
在刚刚结束的亚马逊云科技纽约峰会上,我们隆重推出了一系列新功能,旨在帮助客户根据个性化需求定制生成式 AI,以更快的速度体验生成式 AI 的优点。通过 Amazon Q Apps,任何人只需输入简单的自然语言指令,就能在短短几秒内搭建起自己的生成式 AI 应用。此外,借助 Amazon Bedrock 的新功能,您可以更便捷地利用自己的数据,增强智能代理的能力,并以快速、安全、负责任的方式将生成式...
2024-07-11 13:04:31 185
转载 在 Amazon SageMaker 上部署和使用完全托管式 MLflow
就在上个月,亚马逊云科技宣布 Amazon SageMaker 上完全托管式 MLflow 功能正式上线。MLflow 是一种广泛使用的开源工具,可有效帮助机器学习 (ML) 团队管理整个 ML 生命周期。借助该功能,客户现在只需几个步骤即可轻松设置和管理 MLflow 跟踪服务器,从而简化流程并提高生产力。数据科学家和 ML 开发人员可以利用 MLflow 来跟踪训练模型的多次尝试,将其作为实验...
2024-07-10 19:50:20 155
转载 使用 Amazon Bedrock 上的 Claude 模型实现多意图增强搜索
随着大语言模型( LLM )的迅猛发展,以 Claude 为代表的大模型为生成式 AI 的发展注入了强有力的生命力。可以想象,现在和未来,生成式 AI 会渗透到各个领域,提升运行效率,降本增效。我们也可以想象在未来的应用中,传统的人机交互模式有可能会被生成式 AI 所取代。本文将会以传统业务系统非常普遍的数据匹配检索为例,深入剖析如何利用 Claude 的强大语义分析能力,改变传统应用的交互模式并...
2024-07-10 19:50:20 187
转载 Amazon DocumentDB 与 Amazon OpenSearch Service 的零 ETL 集成现已推出
近日,亚马逊云科技宣布正式推出了Amazon DocumentDB(兼容 MongoDB)与Amazon OpenSearch Service的零 ETL (Zero-ETL)集成。Amazon DocumentDB 提供原生的文本搜索和向量搜索功能。借助 Amazon OpenSearch Service,您可以对 Amazon DocumentDB 数据执行高级搜索分析,例如模糊搜索、...
2024-07-09 16:01:21 98
转载 上手实操:Amazon OpenSearch Service 支持 JSON Web Token 身份验证和授权
本文作者 韩旭北京西云数据科技有限公司亚马逊云技术支持亚马逊云科技云博主最近,Amazon OpenSearch 推出了一个新功能,支持 JSON Web Token (JWT)认证和授权。此前的授权方式控制台登录内部数据库:使用基本的用户名和密码进行 HTTP 验证。如果切换到其他认证方式(如 IAM 或 SAML),此验证方式将被禁用。IAM 主用户:实际上是通过 AmazonCogni...
2024-07-09 16:01:21 106
转载 使用 Amazon Bedrock 上的 Claude 3 与 Dify 集成,快速搭建生产级的生成式 AI 应用
关于 DifyDify 是一款开源的大语言模型( LLM )应用开发平台。它融合了后端即服务( Backend as Service )和 LLMOps 的理念,使开发者可以快速搭建生产级的生成式 AI 应用。它支持多种大型语言模型,如 Claude 3 、 OpenAI ,同时与多个模型供应商合作,确保开发者能根据需求选择最适合的模型。平台提供了强大的数据集管理功能,允许用户上传、管理文本和结构...
2024-07-08 18:10:37 161
转载 拥抱 Amazon Graviton,加速应用构建,共赴技术创新之旅!
自亚马逊云科技推出 Amazon Graviton 以来,这一自研 CPU 已经走过了五年的创新之路。从 Graviton 初代到今日的第四代,每一次迭代都标志着性能的显著飞跃和对绿色计算理念的深刻实践。如今,超过 150 种计算实例在 Graviton 的驱动下运转自如,惠及全球逾 5 万用户的数字化转型之路。图一●Graviton2摒弃了同步多线程技术,为每个 vCPU 分配专属物理核心;●...
2024-07-08 18:10:37 72
转载 模型的部署和微调优化:突破计算资源的瓶颈
????????继上一集了解基础模型的分类之后,本集视频将带大家了解包括模型量化、自注意层计算优化在内的前沿技术方法,在模型的训练和推理时,突破对于模型的训练和推理时,对于例如内存的计算资源的瓶颈!立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供全面的培训与认证内容,助你掌握最新技术和最佳实践,提升专业技能,获得行业认可的认证!立即体验????...
2024-07-07 11:01:09 41
转载 大语言模型内核揭秘:三种分类的 Transformer 模型
❓大语言模型的内核是什么?Transformer 模型又有哪三种分类?对应的业务落地场景如何,又怎样在亚马逊云科技的服务上快速部署基础模型呢?????点击本期视频,找到适合您业务需求的基础模型!立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供全面的培训与认证内容,助你掌握最新技术和最佳实践,提升专业技能,获得行业认可的认证!立即体验????...
2024-07-06 11:00:46 88
转载 Amazon CloudFront 跨账号异常监控实践
当用户受到 DDoS 攻击的时候,如果没有事先配置 Amanzon WAF 和 Amazon Shield Advanced 保护,往往在短时间内会产生大量的 AmazonCloudFront 请求或者流量,从而产生大量的 CDN 费用。站在 payer 账号的角度,payer 底下有很多 linked 账号在使用 Amazon CloudFront,我们希望可以集中和智能地监控所有 linke...
2024-07-05 21:14:52 55
转载 WAIC 2024 | 三层技术栈+五大定律,亚马逊云科技生成式 AI 惊艳全场!
“以共商促共享,以善治促善智”,2024 世界人工智能大会暨人工智能全球治理高级别会议于 7 月 4 日在上海重磅开幕!亚马逊云科技 180 平米超大品牌展区亮相 2024 WAIC 核心展位,从出海朋友圈,到生成式 AI 和行业应用,为现场观众打造全方位的沉浸式体验,感受前沿科技成果的魅力。出海朋友圈、前沿的生成式 AI 产品、行业的成熟解法等尽在亚马逊云科技品牌展区抢赢生成式 AI 机遇亚马逊...
2024-07-05 21:14:52 132
转载 Amazon ElastiCache Serverless for Redis 应用场景和性能成本分析
传统基于实例节点的 Redis 缓存架构中,扩展性是一个重要影响因素。在诸如广告投放、电商交易等场景中,流量变化频繁。无论是主从还是集群模式,当大流量进入时,Redis 处理能力达到上限,需要扩容。Amazon ElastiCache 支持纵向和横向扩展:纵向扩展是修改节点类型,提高 CPU、内存容量。横向扩展是增加只读节点,或者在集群模式下增加分片数量。无论哪种扩展都可以在线进行,但在扩展过程中...
2024-07-04 13:32:49 94
转载 深圳 Community Day 活动剧透!惊喜彩蛋等你发现!
亚马逊云科技 User Group 开发者社区嘉年华来啦!Community Day 深圳站,作为 User Group 社区一年之中的云计算与生成式 AI 技术盛宴,即将拉开帷幕!我们汇聚了全球顶尖的亚马逊云科技专家、用户及行业领袖,共同探讨云计算技术的前沿发展与应用,深入剖析生成式 AI 技术在云计算中的创新实践。在这里,我们致力于打造一个多元化、包容性的技术社区,无论您是来自哪个行业、哪个背...
2024-07-04 13:32:49 59
转载 引领浪潮,全面安全,尽在 re:Inforce 云安全领域年度盛会!
亚马逊云科技 re:Inforce 2024 中国站再度来袭!想要了解安全领域的最新发展趋势?想要学习专业大咖们的深度剖析与见解?大会详情一图了解快来体验这场云安全领域年度盛会!时不我待,机不再来!扫描下方二维码,即刻把握时机,参与这场年度盛会!扫码参与报名星标不迷路,开发更极速!关注后记得星标「亚马逊云开发者」听说,点完下面4个按钮就不会碰到bug了!...
2024-07-03 20:54:41 95
转载 有韧性的基础设施,是业务可靠的第一道和最后一道防线!
在一个理想的世界里,一切都非常完美,并且一直都在顺畅运作。早晨的通勤没有交通堵塞,喜欢的停车位一直空着,一杯温度适宜的饮料,生活一帆风顺,没有任何中断。在需要时,您能得到所需的东西。但这只存在于想象中的完美世界里。在现实世界里,一切往往不总是按计划进行。交通情况是多变的,每天我们可能停在不同的车位,有时,可能把一杯烫手的咖啡不小心弄洒了。世界的不确定性,让我们的业务时刻面临风险。有韧性的基础设施是...
2024-07-03 20:54:41 64
转载 6 月活动合集 | 中国峰会实地探索年度技术盛宴,生成式 AI 精英速成计划持续进行,加入课程,实现职业生涯向云计算领域转型!...
有问题,找云师兄@云开发者们「必看」云活动最新合集来啦刚刚过去的六月,是活动满满、课程充足、知识勃发、思想碰撞的一个月,不仅有助您成为生成式 AI 精英人才的相关热门课程,而且还有诸多动手实践活动,手把手教您如何构建生成式 AI 应用。相关热门活动以及各种免费课程,云开发者已经帮您搜集整理好啦,扫码即可报名!精彩活动抢先看@开发者们,中国峰会实地探索年度技术盛宴,更有云上探索实验室等你加入!@开发...
2024-07-02 13:43:02 42
转载 官方认证折扣倒计时!速来领取专属你的职场加速器计划
在数字化与生成式 AI 浪潮席卷全球的今天,云架构和数据工程技能已成为职场制胜的关键。据统计,拥有亚马逊云科技认证的专业人士平均薪资比未认证同行高出 25.9%。此刻,亚马逊云科技助理级认证作为业界最受欢迎和最具价值的认证之一,正推出限时优惠,为您的职业发展提供绝佳机遇!AWS Certified:Data Engineer - Associate认证折扣倒计时中!Q为什么要考获AWS C...
2024-07-02 13:43:02 50
转载 BRClient 使用指南:开启与 Claude 3 模型本地对话
本文作者 许业宝VSTECS 云工程师亚马逊云科技云博主信息网络布线项目市赛一等奖CSDN 云计算领域新星创作者BRClient 概述BRClient 作为一个开源的桌面应用,为用户提供了友好的图形界面,让每个人都能够轻松访问和使用 Claude 3 的强大功能。用户可以自定义 Claude 3 的人设,赋予它不同的角色和个性,使对话过程更加生动有趣。同时, BRClient 还支持多模态交互,...
2024-07-01 20:22:09 125
原创 使用 Amazon Bedrock Converse API 简化大语言模型交互
例如,在 2024 年 5 月初的亚马逊云科技香港峰会中,为了在一个文件中使用 Amazon Bedrock 调用 5-6 个不同的大语言模型,我需要编写总共 116 行代码来实现这个统一接口的功能。另外,在这段代码中如果要使用不同的图像进行测试,只需更新输入文件路径即可。总体而言,Converse API 简化了在 Amazon Bedrock 中使用不同的大型语言模型的交互过程,通过一致性的界面大幅减少了开发工作量,让生成式 AI 应用的开发者可以更加专注于基于自己业务的独特创新和想象力。
2024-07-01 19:04:20 962
转载 大语言模型内核揭秘:Transformer 架构
????速来探索基础模型的架构和训练方式!????让我们先从了解大型基础模型和模型中心,来开启这段奇妙的大语言模型内核揭秘之旅……立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供全面的培训与认证内容,助你掌握最新技术和最佳实践,提升专业技能,获得行业认可的认证!立即体验????Foundation Models onAmazon Bedrock...
2024-06-30 11:01:14 59
转载 基础模型提示工程的 16 条最佳实践
????如何使用提示工程和上下文学习的技术来直接使用现有基础模型的 16 条最佳实践?如何高效地为大模型构建提示词?目前在提示工程领域已有哪些实践经验?❓关于“生成式 AI” 你是否存有以上疑惑?观看本期视频内容,跟随亚马逊云科技资深开发者布道师黄浩文的脚步,我们一同探寻上述问题的答案。立即体验 Amazon Bedrock!探索世界顶级的大模型、智能体、文生图、对话机器人……无论新手还是专家,我们提供...
2024-06-29 11:01:23 48
转载 基于亚马逊云科技云原生服务,构建生产级别的 LLM 推理环境
背景介绍近年来,随着计算力和数据量的不断提升,大语言模型( LLM )在自然语言处理领域取得了令人瞩目的进展,展现出了广阔的应用前景。在企业场景中,LLM 可以被应用于多个领域,例如智能问答、文本摘要、内容创作、代码生成等,为提高工作效率、优化客户体验等带来全新的可能性。越来越多的企业开始探索将 LLM 引入业务环境中。然而,企业在自有环境中部署和运行 LLM 面临诸多挑战:部署复杂性:LLM 模...
2024-06-28 17:28:58 125
转载 立即在 Amazon Bedrock 上部署 Claude 3.5 Sonnet !更智能、更低成本!
Claude 3 是一系列极为先进的人工智能模型,可让您根据自己的需求,从智能、速度和成本方面考虑选择最适合的组合。距离 Anthropic 推出 Claude 3 仅过去 3 个月,Anthropic 在上周推出了 Claude 3.5 Sonnet ,这是它即将推出的 Claude 3.5 模型系列中的第一个版本。立即开始在 Amazon Bedrock 中使用 Claude 3.5 Sonn...
2024-06-28 17:28:58 285
转载 借助 Amazon SageMaker JumpStart 快速部署零一万物 Yi-1.5 基础模型
本文作者 郑昊、张镎近期,由零一万物提供的基础模型 Yi-1.5 6B/9B/34B 在Amazon SageMaker JumpStart 上线了 ,为中国企业提供丰富模型选择的同时满足了企业对安全合规、快速扩展、免运维的需求。作为首批登陆中国区域 Amazon SageMaker JumpStart 的中文基础模型,Yi-1.5 与亚马逊云科技托管服务深度集成,助力中国企业应用一流的生成式 A...
2024-06-27 13:18:48 134
转载 典型应用场景和核心特性:针对智能摄像头与智能家居厂商的视频分析
背景随着 AI 技术的快速发展,视频分析在智能摄像头和智能家居等领域得到了广泛应用。在过去,视频分析通常依赖于传统的计算机视觉算法和机器学习模型,这些方法需要依赖训练数据集或者手工设计特征提取器和分类器。这种方法存在一些固有的缺陷和局限性:依赖训练数据集。对于传统机器学习模型,需要一定量的数据去学习特定的分类或目标位置信息,构建足量的训练数据集是一个耗时的过程,且在一些场景中,数据也难以收集。特征...
2024-06-27 13:18:48 128
转载 要啥平替, Amazon Bedrock 上有 32 个世界顶流大模型!
Claude 3.5 Sonnet 模型已上线 Amazon BedrockAnthropic 的 Claude 3.5 Sonnet 模型已在 Amazon Bedrock 中推出:比 Claude 3 Opus 更智能,而成本只是它的五分之一。Claude 3.5 Sonnet 提高了智能行业门槛,在各种评估中的表现都优于其他生成式 AI 模型,包括 Anthropic 之前最智能的模型 Cl...
2024-06-26 22:23:01 95
转载 Falcon 2 11B 已上线 Amazon SageMaker JumpStart
亚马逊云科技于近期宣布,下一代 Falcon 2 系列的一款新模型,即来自技术创新研究所 ( Technology Innovation Institute ,以下简称 “TII” )的 Falcon 2 11B 基础模型 ,正式在Amazon SageMaker JumpStart 可用,您可立即开始通过Amazon SageMaker JumpStart部署和运行推理!Falcon 2 ...
2024-06-26 22:23:01 102
转载 Amazon Bedrock 多模型接入 – Bedrock Connector 部署与使用指南
在 Claude 3 发布之后,其强大的多模态推理、视觉能力、翻译、总结、写作、编码等能力,再次激发生成式 AI 的热潮。 Amazon Bedrock 是首个 Claude 3 全托管且正式可用的服务。伴随越来越多的业务场景落地,我们也收集了很多针对Amazon Bedrock 中的 Claude 3 的需求和反馈。我们开发了 Bedrock Connector 并开源,供大家测试使用,和代码...
2024-06-25 14:09:38 164
转载 想成为生成式 AI 精英,总共分 2 步?
在新一轮数字经济浪潮中,生成式 AI 如一颗璀璨的星辰,照亮了无数企业和个人的前行之路。随着人工智能技术的飞速发展,生成式 AI 已成为推动行业创新的核心力量。亚马逊云科技深谙其道,推出了备受瞩目的「生成式 AI 精英速成计划」。项目启动至今,已吸引超过 4 万多人次学员加入学习,其中更有 4000 余名学员已经获得线上技能证书,他们的脚步,正是通往 AI 时代未来的坚实印记。一起来看亚马逊云师兄...
2024-06-24 18:59:24 48
转载 使用 Amazon Q in Connect 获取实时解决方案!
????想要获得实时解决问题的操作、回复和信息吗?Amazon Q 已集成到 Amazon Connect 智能体工作区中,可通过检测实时对话,帮您解决这些问题!???? Amazon Q in Connect 还能为智能体提供更深入的原始资料,仅需通过聊天就可以了解更多信息。????♀️赶快点击视频,让 Amazon Q in Connect 带你进入全新的智能时代!立即体验 Amazon Bedrock!探索...
2024-06-23 11:00:17 54
360度解析亚马逊云科技存储服务V2
2015-09-22
亚马逊云科技的互联网存储服务
2015-09-22
如何在亚马逊云科技云服务上构建千万级用户应用
2015-09-22
基于亚马逊云科技云服务的高可用应用设计 v1.0
2014-05-29
亚马逊云科技云服务入门介绍_方国伟
2014-05-29
方国伟:亚马逊云科技云服务的发展和创新
2014-05-29
Netflix在亚马逊云科技上的应用和创新
2014-05-29
方国伟:基于亚马逊云科技的云灾备设计
2014-05-29
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人