- 博客(78)
- 收藏
- 关注
RSS订阅转载 Amazon CloudFront 部署小指南- 快速构建 CDN 内容分发
CloudFront 是亚马逊云科技提供的一项内容分发网络（CDN）服务。是一种将数据和内容分发到全球各地的网络系统，以提供更快、更可靠的用户访问体验。CloudFront 的目标是将内容靠近最终用户，从而减少延迟时间和网络拥塞，提供快速的内容传递。它通过在全球各地的边缘位置（Edge Location）部署服务器节点，将数据缓存到离用户更近的位置，并在用户请求内容时从最接近用户的边缘位置提供响应，以提供更快的响应时间。
2023-06-19 11:47:52
1619
原创 构建容器化的 Redis 集群服务代理
Redis是一个 Key-Value 存储系统，是跨平台的非关系型数据库。Redis 是现在最受欢迎的 NoSQL 数据库之一，它是一个开源的使用 ANSI C 语言编写、遵守 BSD 协议、支持网络、可基于内存、分布式、可选持久性的键值对（Key-Value）存储数据库，并提供多种语言的 API。Redis 通常被称为数据结构服务器，因为值（Value）可以是字符串（String）、哈希（Hash）、列表（List）、集合（Sets）和有序集合（Sorted Sets）等类型。
2023-06-19 11:33:16
439
转载 如何使用 Hugging Face LLM DLC 部署大型语言模型到 Amazon SageMaker
Hugging Face LLM DLC 是一款全新的专用推理容器，可在安全的托管环境中轻松部署 LLM。DLC 由文本生成推理（TGI）提供支持，这是一种用于部署和服务大型语言模型（LLM）的开源、专门构建的解决方案。TGI 使用张量并行和动态批处理为最受欢迎的开源 LLM（包括 StarCoder、BLOOM、GPT-Neox、Llama 和 T5）实现高性能文本生成。张量并行性和自定义 cuda 内核在最受欢迎的架构上使用优化了用于推理的变形器代码使用进行量化连续批处理传入的请求。
2023-06-19 11:30:11
1032
原创 生成式 AI 在电商行业的应用场景实践
AI Generated Content（Generative AI，人工智能自动生成内容），是继专业生产内容（PGC, Professional-generated Content）、用户生产内容（UGC，User-generated Content）之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势，打造新的数字内容生成与交互形态。随着科技的发展，生成式 AI 在多个行业均有广泛应用，如泛娱乐行业的风格图、游戏行业的三视图等。
2023-06-19 11:26:16
1055
1
原创 亚马逊云科技 re:Inforce 2023 全球大会即将开启
将在 re:Inforce 2023 上，围绕六大云安全领域 —— 应用安全、数据保护、数据治理及风险合规管控、身份认证和访问控制、网络和基础设施安全、威胁检测和事件响应，通过主题演讲、技术及非技术分享、展区等上百场活动，与客户分享全球安全领域的最新洞察与成功实践，让安全成为客户业务敏捷发展的驱动力。CJ Moses 在亚马逊云科技负责带领团队进行安全产品设计及安全工程，他将介绍亚马逊云科技最新的安全技术创新，以及如何帮助客户从底层芯片到顶层的各个技术堆栈的不同层面去改善企业的安全状况。
2023-06-19 11:21:03
177
转载 Amazon EC2 Inf2 实例正式可用 助力更低成本、更高性能的生成式 AI 推理（第四部分）
镜像进行部署，并可通过 Amazon SageMaker、Amazon Elastic Kubernetes Service（Amazon EKS）、Amazon Elastic Container Service（Amazon ECS）和 Amazon ParallelCluster 等托管服务调用。美东（俄亥俄州）和美东（北弗吉尼亚州）地区启动 Inf2 实例，以按需、预留和竞价实例或 Savings Plan 方式调用。用户仅需为其实际使用的服务付费。Inf2 实例可使用亚马逊云科技。
2023-04-25 18:07:33
60
转载 Amazon EC2 Inf2 实例正式可用 助力更低成本、更高性能的生成式 AI 推理（第二部分）
每个 NeuronCore-v2 都有专为深度学习算法构建的标量、向量和张量三种引擎，其中张量引擎针对矩阵运算进行了优化；标量引擎针对 ReLU（修正线性单元）函数等元素性操作进行了优化；向量引擎针对批处理规范化或池化等非元素向量运算进行了优化。Amazon Trainium 类似，每个 Amazon Inferentia2 芯片都配有两个经过优化的 NeuronCore-v2 引擎、高带宽内存（HBM）堆栈和专用的集体计算引擎，以便在执行多加速器推理时实现计算与通信的并行。
2023-04-25 18:07:21
63
转载 Amazon EC2 Inf2 实例正式可用 助力更低成本、更高性能的生成式 AI 推理（第三部分）
符 —— Amazon Inferentia2 支持用 C++ 语言编写的自定义运算符。NeuronLink v2 —— Inf2 实例是 Amazon EC2 类型中首个将 NeuronLink V2 用于推理优化的实例，NeuronLink v2 为 Inferentia2 芯片间的提供超高速连接，加强分布式推理性能。动态执行和动态输入形状 —— Amazon Inferentia2 具有支持动态执行的嵌入式通用数字信号处理器 （DSP），因此无需在主机上展开或执行控制流运算符。
2023-04-25 18:07:06
65
转载 Amazon EC2 Inf2 实例正式可用 助力更低成本、更高性能的生成式 AI 推理（第一部分）
在 BF16 或 FP16 数据类型下，它们能够提供 2.3 petaFLOPS 的综合计算能力，并具有芯片间超高速NeuronLink 互连的功能。基于专门为深度学习工作负载而构建的 Amazon Inferentia2 芯片的 Amazon EC2 Inf2，相比同类实例，单位功率性能高出了 50%。每个Inferentia2芯片内有32 GB的高带宽内存（HBM），最高配置的 Inf2 实例可提供高达384 GB的共享加速器。对于需要大内存支持的的大型语言模型而言，这种带宽对于支持模型推理尤为重要。
2023-04-25 18:05:20
73
转载 Amazon CodeWhisperer 正式可用, 并面向个人开发者免费（第四部分）
CodeWhisperer 在跨多种编程语言为通用场景提供代码辅助的同时，由于使用了基于亚马逊云服务 API 的额外代码进行调优，在那些调用亚马逊云服务的场景中，CodeWhisperer 可以生成最高质量、最准确的代码。Amazon CodeWhisperer 已经正式可用，支持 Python、Java、JavaScript、TypeScript、C#、Go、Rust、PHP、Ruby、Kotlin、C、C++、Shell 脚本、SQL和Scala等开发语言。的人），只需一个电子邮箱地址即可注册使用。
2023-04-23 17:26:06
92
转载 Amazon CodeWhisperer 正式可用, 并面向个人开发者免费（第三部分）
为了帮助开发人员负责任地编码，CodeWhisperer 过滤掉了可能被认为有偏见或不公正的代码建议，它可以过滤或标记类似于特定开源训练数据的代码建议，并且是唯一具备该功能的编程助手。当生成的代码类似于训练集中的参考代码时，它会为代码提供额外的提示（比如代码库 URL 和许可证），帮助降低使用代码的风险，并使开发人员重复利用代码。、存在偏见或不公正，或未能负责任地使用开源代码。这些问题之后还需要开发人员解决，从而影响他们的工作效率。开发人员最终完成的代码可能存在各式各样的问题，比如含有隐藏的。
2023-04-23 17:25:03
58
转载 Amazon CodeWhisperer 正式可用, 并面向个人开发者免费（第二部分）
服务 (IAM) 集成、为参考代码建议设置控制规则，以及具备更高的安全扫描限制。除了为 Python、Java、JavaScript、TypeScript 和 C# 生成代码片段建议外，正式发布版现在还支持Go、Rust、PHP、Ruby、Kotlin、C、C++、Shell 脚本、SQL 和 Scala。开发人员面对越来越大的完成任务的时间压力，在遇到问题时，他们常常被迫打断编程节奏，转而上网搜索、访问 StackOverflow 等网站或寻求同事的帮助以便完成任务，而查询的过程又会带来更多的干扰。
2023-04-23 17:24:28
110
转载 Amazon CodeWhisperer 正式可用, 并面向个人开发者免费（第一部分）
在创建复杂代码和面对不断变化的开发环境时，开发人员可以在自己喜欢的 IDE（集成开发环境）中使用 CodeWhisperer，例如 Visual Studio Code、IntelliJ IDEA 及其他 IDE，从而提高工作效率、简化工作任务。CodeWhisperer 可以帮助开发者创建代码胜任如下场景，比如常规、耗时的无差别任务，或是在使用不熟悉的 API 或 SDK 时构建示例代码，亦或要正确高效地使用亚马逊云科技 API 操作，还有其他场景比如编写读写文件、处理图像、编写单元测试等代码。
2023-04-23 17:23:32
112
转载 佶缔纳士与亚马逊云科技达成全面合作，通过领先的智慧运维解决方案加快从设备生产商向服务提供商转型（第三部分）
中国区跨国企业及电信行业事业部总经理沈涛表示：“NASH 作为全球布局的制造业企业，在中国实现创新，并向全球其他区域推广，走在了全球智能化服务的前列。凭借遍布全球的基础设施和丰富的云服务，亚马逊云科技希望赋能更多的全球企业，实现突破性创新，助力客户实现绿色发展。重庆英科铸数首席运营官袁景昊表示：“非常有幸参与到 NASH 产品和服务的智能化转型中，我们依托于亚马逊云科技丰富的云服务产品，结合自身的。算法技术，为 NASH 打造行业领先的智能化设备管理运维平台。
2023-04-23 17:21:21
70
转载 佶缔纳士与亚马逊云科技达成全面合作，通过领先的智慧运维解决方案加快从设备生产商向服务提供商转型（第二部分）
的可大规模扩展对象存储服务 Amazon Simple Storage Service（Amazon S3）构建底层的数据湖，存储各种设备运维数据如温度、噪音、液位、压力等工作参数，并与客户关系管理系统（CRM）和售后系统数据打通，实现数据一致性和集成性。平台 Amazon SageMaker，开发、训练和部署设备预测性维护模型，基于故障表征提供初步诊断或优化方案，发布预测性维护提醒和风险点的超前预警，避免设备故障导致的业务中断问题，实现数据驱动的预测性维护。此外，NASH 还将使用。
2023-04-23 17:20:47
66
转载 佶缔纳士与亚马逊云科技达成全面合作，通过领先的智慧运维解决方案加快从设备生产商向服务提供商转型（第一部分）
NASH 专注于在真空和气体压缩输送领域，为工业、能源、环境、医疗和通用等诸多行业关键领域提供增值的真空泵/压缩机和风机整体解决方案，产品和服务遍及五大洲。随着 NASH 持续推动数字化转型，加快从设备生产商向服务提供商转型，NASH 期望通过数字化智能解决方案，实现高效灵活和安全稳定的设备运维与管理，从而为客户提供智能化服务。该平台预计连接全球超过数十万台真空泵和风机等设备，利用亚马逊云科技容器、存储、数据库、分析和机器学习等服务，对设备数据采集和分析，对设备进行全生命周期的管理，并实现预测性维护。
2023-04-23 17:20:39
80
转载 亚马逊云科技宣布推出生成式 AI 新工具（第五部分）
的演进也是日新月异。我们期待未来会涌现全新的体系和架构，而基础模型的多样化会推动新一波的创新浪潮。很多客户都在询问我们，如何快速利用当今以及未来可能出现的技术，如何快速使用基础模型和生成式 AI 立刻为公司业务大幅提升生产效率和变革产品与服务。展开研究的人很快意识到，多家公司已经在基础模型上耕耘多年，可用的基础模型也有很多，且各有各的优势和特点。在过去的数年间，我们都亲历了技术的快速发展，基础模型拥有巨大的潜力，但我们仍处在初级阶段。ChatGPT 率先吸引了客户对生成式 AI 的关注。
2023-04-20 17:35:06
45
转载 亚马逊云科技宣布推出生成式 AI 新工具（第七部分）
中的几个标注好的数据示例，Bedrock 就可以针对特定任务微调模型，最少仅需 20 个示例即可，而无需标注大量数据。他向Bedrock 提供了一些标注过的表现最佳的既往营销广告示例，以及新品的相关描述，Bedrock 将能自动为这些新品生成有效的社交媒体推文内容、展示广告和产品网页。客户还可以通过 Bedrock 轻松访问 Stability AI 开发的文生图基础模型 Stable Diffusion，这是文生图领域目前最流行的模型，能够生成独特、写实、高清的图像、艺术作品、商标和其它设计图。
2023-04-20 17:35:05
65
转载 亚马逊云科技宣布推出生成式 AI 新工具（第六部分）
在 Bedrock 上，用户可以通过可扩展、可靠且安全的亚马逊云科技托管服务，访问从文本到图像的一系列强大的基础模型，以及我们今天发布的Amazon Titan 基础模型。凭借 Bedrock 所带来的无服务器体验，客户可以轻松找到适合自身业务的模型，快速上手，在确保数据安全和隐私保护的前提下，使用自有数据基于基础模型进行定制，并使用他们已经熟悉的亚马逊云科技工具和能力，将定制化模型集成并部署到他们的应用程序中，同时无需管理任何基础设施。，利用自己的数据（可多可少）构建差异化的应用程序。
2023-04-20 17:34:59
53
转载 亚马逊云科技宣布推出生成式 AI 新工具（第四部分）
通过基于互联网规模的、各种形式和模态的海量数据进行预先训练，基础模型学会在各种语境中应用所习得的知识。尽管预训练基础模型所带来的功能和可能性已足够令人惊叹，而真正让客户为此兴奋不已的是，这些通用模型也可以被定制化加工，执行专属于其业务领域的特定功能，帮助业务建立差异化竞争优势，与从零开始训练模型相比，仅需使用一小部分数据和。例如，一家金融公司如果需要使用所有相关交易自动生成活动日报以供内部流通，它可以使用包括既往报告在内的专有数据来定制模型，以便基础模型了解如何阅读报告和使用哪些数据来生成日报。
2023-04-20 17:33:47
36
转载 亚马逊云科技宣布推出生成式 AI 新工具（第三部分）
如今的基础模型，例如大型语言模型 GPT3.5 或 BLOOM，以及由 Stability AI 开发的文生图模型 Stable Diffusion，可以执行跨多个领域的多种任务，例如撰写博客文章、生成图像、解决算术问题、对话聊天，基于文档回答问题等。基础模型的规模和面向通用场景的性质使其不同于传统的机器学习模型，后者通常仅执行特定的任务，例如分析文本观点、分类图像和预测趋势等。这些模型是基于大量数据进行预先训练的大模型，通常被称为基础模型（Foundation Models）。
2023-04-20 17:33:21
41
转载 亚马逊云科技宣布推出生成式 AI 新工具（第二部分）
为所有开发人员构建、训练和部署模型提供最大的便利；得益于此，Intuit、汤森路透、阿斯利康、法拉利、德甲联赛、3M 和宝马等客户，以及全球数千家初创企业和政府机构正在通过机器学习进行数字化转型，带动产业升级，重新定义机器学习的使命。我们同样致力于推动生成式 AI 技术的普惠化：我们将这些技术从研究和实验领域释放出来，不只是少数初创公司和资金雄厚的大型科技公司，而是让更多公司都能从中受益。长期以来，我们不断投入、持续创新，为机器学习提供高性能、可伸缩的基础设施，和极具性价比的机器学习训练和推理；
2023-04-20 17:33:10
66
转载 益博睿选择亚马逊云科技作为首选云提供商，以推动大规模产品创新（第三部分）
亚马逊云科技全球金融业务拓展总经理 Scott Mullins 表示，“通过在亚马逊云科技上运营其最大的部门，益博睿可以扩大服务产品种类，帮助企业和金融服务欠缺的消费者建立、改善和掌控其未来的财务状况。亚马逊云科技还将帮助益博睿整合整个公司的数据，提供新的、更快速的洞察和预测，从而使企业和消费者可以改善财务健康状况，并节省资金。和现代化项目外，益博睿还是亚马逊云科技合作伙伴网络（APN）和亚马逊云科技独立软件开发商（ISV）加速计划的成员。
2023-04-20 17:31:43
45
转载 亚马逊云科技宣布推出生成式 AI 新工具（第一部分）
和机器学习一直是亚马逊关注的焦点。亚马逊提供给客户的很多功能都是由机器学习驱动的，例如我们的电商推荐引擎、运营中心捡货机器人的路径选择，以及我们的供应链、预测和产能规划。亚马逊有数千名工程师专注于机器学习研究，这既是我们的宝贵资产，也是我们现在最关注的理念，和面向未来的实力之所在。但随着足够的可伸缩算力的就位、海量数据的爆炸，以及机器学习技术的快速进步，各行各业的客户开始对业务进行重塑。我们正处在一个令人激动的机器学习被大规模采用的转折点上，我们也相信生成式AI将会重塑大量客户体验和应用程序。
2023-04-20 17:31:36
59
转载 益博睿选择亚马逊云科技作为首选云提供商，以推动大规模产品创新（第一部分）
作为该公司“云优先”战略的一部分，益博睿将把核心业务运营、消费者服务产品、分析工具以及本地部署服务器转移到亚马逊云科技上。将这些关键技术平台集中在全球领先的云上，有望提升益博睿的IT安全性和可靠性，降低运营成本，并缩短新产品的上市时间。益博睿还将扩大使用亚马逊云科技丰富的。宣布，全球领先的信息服务公司及信用报告机构益博睿（伦敦证交所代码：EXPN）已选择亚马逊云科技作为首选云提供商，为其历时数年的信息技术（IT）现代化项目提供全面支持。，以定制开发项目，并为消费者和企业客户提供实时金融服务。
2023-04-20 17:31:21
42
转载 Bilibili Comics 选择亚马逊云科技为首选云服务商 加速全球业务增长（第四部分）
Amazon Personalize 就是一款开箱即用的智能推荐服务，通过利用预先设置好的模型算法，用户只需设置好对应的 API 接口即可实现快速上线。Bilibili Comics 选择利用 Amazon Personalize 服务快速上线漫画分类页面推荐功能，并在亚马逊云科技技术团队的助力下，三周内即完成从测试到上线的全过程，在提升读者体验的同时实现了预定的点击率和销量提升目标，并进一步削减了成本。的工作流在云上快速部署自研模型并实现快速迭代，成功搭建了功能更为强大的首页内容推荐系统。
2023-04-18 17:48:35
38
转载 Bilibili Comics 选择亚马逊云科技为首选云服务商 加速全球业务增长（第五部分）
Bilibili Comics 选择将海外业务全部构建在亚马逊云科技上并成功实现其业务在全球的快速布局和增长，这充分体现了亚马逊云科技在服务中国企业出海、拓展全球业务方面的能力和优势。“亚马逊云科技中国区数字原生事业部总经理梁岩表示：”通过提供全栈的 Serverless 服务和全栈的人工智能和。选择亚马逊云科技作为首选云服务商不仅使我们从容应对全球安全合规和快速部署的前期挑战，其端到端的数据服务和丰富的人工智能服务，也为我们提供了业务洞察、创新和发展的数字化引擎。
2023-04-18 17:48:32
35
转载 Bilibili Comics 选择亚马逊云科技为首选云服务商 加速全球业务增长（第一部分）
宣布，Bilibili Comics 选择亚马逊云科技为其首选云服务商，高效布局漫画全球业务，加速增长。借助亚马逊云科技全球基础设施和云服务，Bilibili Comics 从容应对快速上线带来的业务负载激增，实现了全球数据同步；人工智能服务，Bilibili Comics 在三周内就完成了漫画分类栏目个性化推荐功能从测试到上线的全过程，在提升读者体验的基础上，实现点击率和内容销量双增长，并通过优化架构将大数据及。利用人工智能和机器学习服务实现个性化推荐提升用户体验，将大数据及人工智能服务成本降低80%
2023-04-18 17:47:06
32
转载 新研究表明：具备高级数字化技能的在职人员为中国国内生产总值贡献 5.4 万亿元（第五部分）
亚马逊云科技始终致力于助力中国云计算人才培养，赋能各行各业的企业加速云上创新和数字化转型。“云拓计划（Skills Guild）”，可为企业量身定制综合性云技能提升方案，并助其打造个性化、系统化及可持续的云人才培养计划。此外，亚马逊云科技通过与本地培训合作伙伴合作，为中国企业提供本地化、定制化的培训服务。为在职人员提供超过 600 门由专家打造的免费数字化培训课程，由亚马逊云科技专业讲师授课的线上、线下专班培训课程，丰富的动手实验室，以及覆盖从基础到专项的 12 项云技术认证。
2023-04-18 17:46:51
33
转载 新研究表明：具备高级数字化技能的在职人员为中国国内生产总值贡献 5.4 万亿元（第四部分）
这项研究表明，数字化技能可以在个人、企业，以及宏观经济等多个层面为中国带来巨大的经济效益。未来十年，随着越来越多的企业将其 IT基础设施迁移到云端，以及新技术的涌现，数字化的发展将带来大量新的工作机会。中国要在数字经济中保持竞争力，取决于是否拥有大量高级技术人才以支持当前和未来的创新。人才对业务发展非常或极其重要，同时有高达 86% 的受访企业面临招聘困难。77% 的受访企业认为，行业数字化技能证书和课程培训可以替代学士学位。转型，未来几年对高级数字化技能人才的需求将保持强劲。随着全球企业和政府机构加速。
2023-04-18 17:46:44
28
转载 新研究表明：具备高级数字化技能的在职人员为中国国内生产总值贡献 5.4 万亿元（第三部分）
应用云计算等数字化技术的企业比不采用这些技术的企业更容易实现业务增长和创新。在过去两年中，77%数字化程度高的受访企业推出了全新、创新的产品，而在只具备基础数字化程度的受访企业中，这一比例为 63%。数据显示，与仅在云上运营部分业务或完全不使用云服务的受访企业相比，在云上运营大部分业务的受访企业创新率高 35%（94% 比 59%），实现收入稳定增长的比率高 24%（71% 比 47%）。员工的受访企业表示其年收入实现稳定增长，而在只雇佣掌握基础或中级数字化技能员工的受访企业中，这一比例仅为 44%。
2023-04-18 17:44:08
33
转载 亚马逊云科技携手Hugging Face 让生成式AI触手可及（第四部分）
Hugging Face DLC 包含了优化的 transformer、数据集和标记器库，使用户将大规模地精调和部署生成式AI应用程序的时间从几周缩短到几小时，并且只需极少的代码更改。“生成式 AI 蕴藏着改变整个行业的巨大潜力，但其成本和所需的专业知识使该技术无法为除少数公司之外的所有公司所用。”亚马逊云科技首席执行官 Adam Selipsky 表示，“Hugging Face 和亚马逊云科技让用户更易访问流行的机器学习模型，以最高的性能和最低的成本创建自己的生成式。
2023-04-14 17:20:17
87
转载 亚马逊云科技携手Hugging Face 让生成式AI触手可及（第三部分）
例如，由 Amazon Trainium 支持的Amazon Elastic Compute Cloud (Amazon EC2) Trn1 实例提供了更快的训练时间，与基于 GPU 的实例相比，可节省高达 50% 的训练成本。Amazon SageMaker 为ML提供工具和工作流，开发人员可以通过 Amazon SageMaker 等托管服务使用 Amazon Trainium 和 Amazon Inferentia，亦或在 Amazon EC2 上自行管理。
2023-04-14 17:19:05
101
转载 亚马逊云科技携手Hugging Face 让生成式AI触手可及（第一部分）
（ML）的所有领域中创新，包括基础设施、Amazon SageMaker 相关工具和开箱即用的AI服务，比如 Amazon CodeWhisperer，它嵌入到程序员使用的 IDE 中，通过注释来生成建议代码，以提高开发人员的生产力。此外，作为亚马逊搜索（Amazon Search）的一个小组，M5 可以帮助亚马逊各地团队将大模型应用到他们的应用程序中，并训练大模型以提升 Amazon.com 网站的搜索结果。生成式AI应用可以执行各种任务，包括文本摘要、问题回答、代码生成、图像创建以及撰写论文和文章。
2023-04-14 17:18:07
64
转载 Marvell 与亚马逊云科技合作实现云优先芯片设计（第一部分）
的战略供应商，Marvell 提供针对云端优化的芯片，帮助满足亚马逊云科技客户对基础设施的需求，包括提供光电子芯片、网络、安全、存储以及其他定制解决方案。亚马逊云科技 Amazon EC2 副总裁 David Brown 表示：“Marvell 将芯片创新带入了亚马逊云科技广泛而深入的云服务当中，我们的客户也因此收益。现在，通过采用云优先方式实现 EDA 的转型，Marvell 将利用云上几乎无限的计算能力，助力其客户加速芯片设计，并在日益复杂的芯片设计领域继续保持领先。
2023-04-14 17:17:56
82
转载 Marvell 与亚马逊云科技合作实现云优先芯片设计（第一部分）
Marvell 通过亚马逊云科技无与伦比的服务组合，包括云中的安全、弹性、高性能计算等能力，为其 EDA 提供支持，解决速度、延迟、知识产权安全和数据传输等方面的挑战。通过云优先战略，Marvell 可以在亚马逊云科技上快速、安全地扩展其服务，以应对日益复杂的芯片设计流程带来的挑战，并为其服务的汽车、运营商、数据中心和企业基础设施市场提供持续创新，满足他们不断增加的需求。Marvell 还是亚马逊云科技的关键半导体供应商，帮助亚马逊云科技设计和快速交付满足客户苛刻需求的。
2023-04-14 17:17:29
75
转载 亚马逊云科技与英伟达携手开发下一代基础设施，助力大型机器学习模型训练和生成式AI应用程序构建（第八部分）
双方的合作包括开发系统散热设计、集成式安全和系统管理、与 Amazon Nitro 硬件加速虚拟机管理程序一起实现安全性，以及针对亚马逊云科技定制 EFA 网络结构的英伟达 GPUDirect™ 优化技术。在某些 AI 工作负载下，GPU 的能效通常是 CPU 的20倍，对于 LLM 而言，H100 的能效比 CPU 高 300 倍。在亚马逊云科技和英伟达专注于服务器优化工作的基础上，两家公司现已开始合作开发未来的服务器设计，以借助新一代系统设计、冷却技术和网络可扩展性提高扩展效率。
2023-04-13 17:25:11
78
转载 亚马逊云科技与英伟达携手开发下一代基础设施，助力大型机器学习模型训练和生成式AI应用程序构建（第七部分）
合作，使用Amazon EC2 P4d 实例构建了一个潜在的文本到图像扩散模型 Stable Diffusion，我们将该模型部署在大规模环境下，将模型训练时间从数月缩短到数周。我们预计 P5 实例会进一步将我们的模型训练时间缩短 4 倍，从而使我们能够以更低的成本更快地提供突破性的 AI。作为多模态、开源 AI 模型开发和部署领域的领导者，Stability AI 与公共和私营部门的合作伙伴合作，将这种下一代基础架构提供给全球受众。（Empathetic AI）体验。
2023-04-13 17:25:00
78
转载 亚马逊云科技与英伟达携手开发下一代基础设施，助力大型机器学习模型训练和生成式AI应用程序构建（第五部分）
虽然当前已有的大型通用 AI 系统大有助益，但它们却是不可预测、不可靠和不透明的。” Anthropic 的联合创始人Tom Brown 表示，“我们是全球为数不多的在深度学习研究领域建立基础模型的组织之一。这种模型高度复杂，为了开发和训练先进的模型，我们需要在庞大的 GPU 集群中有效地分布这些模型。借助新的 Amazon EC2 P5 实例，Anthropic、Cohere、Hugging Face、Pinterest 和Stability AI 等客户将能够大规模构建和训练最庞大的。
2023-04-13 17:23:40
47
转载 亚马逊云科技与英伟达携手开发下一代基础设施，助力大型机器学习模型训练和生成式AI应用程序构建（第四部分）
EFA 的定制操作系统绕过硬件接口，并与英伟达 GPUDirect RDMA 整合，可降低延迟、提高带宽利用率，从而提升实例间通信性能，这对于在数百个 P5 节点上扩展深度学习模型的训练至关重要。Amazon EC2 P5 实例部署在 Amazon EC2 UltraCluster 的超大规模集群中，该集群由云端最高性能的计算、网络和存储系统组成。Amazon S3、面向高性能文件系统的 Amazon FSx，以及用于构建、训练和部署深度学习应用的 Amazon SageMaker。
2023-04-13 17:23:33
58
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人