关键字: [Amazon Web Services re:Invent 2023, Amazon Neptune Analytics, Graph Algorithms, Graph Data, Amazon Neptune Analytics, Vector Similarity Search, Open Cipher Queries]
本文字数: 1400, 阅读完需: 7 分钟
视频
如视频不能正常播放,请前往bilibili观看本视频。>> https://www.bilibili.com/video/BV1JC4y1R7ob
导读
亚马逊Neptune被亚马逊云科技客户用来运行高吞吐量、低延迟的基于图形的应用程序,这些应用程序可以建立几乎无限的关系。在DAT325的后续演示中,我们将展示Neptune的最新创新如何支持下一代基于图形的应用程序和新的使用案例。
演讲精华
以下是小编为您整理的本次演讲的精华,共1100字,阅读时间大约是6分钟。如果您想进一步了解演讲内容或者观看演讲全文,请观看演讲完整视频或者下面的演讲原文。
在re:Invent的第五个剧场内,亚马逊云科技的高级产品经理安东尼·帕戈欢迎与会者的到来。尽管会议日程已经相当晚,但他仍然能感受到房间里的活力和兴奋。这是安东尼第一次参加re:Invent,许多与会者也有类似的体验。他热情地介绍了将要在会议剩余时间里发言的亚马逊云科技的同事,丹尼丝·戈斯内尔和戴夫·贝克·汉堡。
丹尼丝和戴夫上台与安东尼一起,感谢观众在如此晚的时候仍能出席,并努力了解亚马逊Neptune的最新创新。丹尼丝承认,与会者可能已经走过了很多路程,穿越了会议设施。她估计,他们可能已经在庞大的会议场地走了15-20英里或更多。丹尼丝很高兴有机会坐下来讨论前一天为Neptune推出的新的图形分析和机器学习功能。
戴夫介绍自己是Neptune团队的首席图形架构师。他解释了亚马逊通过为像Neptune这样的专用数据库支持应用程序的多样化数据工作负载的方法。Neptune是一种完全托管的、云优化的图形数据库,专为存储数十亿个关系并提供这些连接的实时遍历而构建。特别是,图形数据专注于数据点之间的关系,其中这些连接可能比数据本身更重要。Neptune实现了高效的图形数据架构扩展,采用按需付费模式。
随着时间的推移,亚马逊云科技的顾客们要求能够分析包含数十亿个连接的整个图形数据集。作为回应,亚马逊云科技宣布推出了专门针对图形工作负载的新的分析引擎——Neptune Analytics。作为Neptune的主要产品经理,丹尼丝强调了Neptune Analytics的三个主要优势:首先,它为云中的高效图形分析提供了一个单独的服务。通过使用Neptune Analytics,客户避免了仅仅为了构建图形应用而管理基础设施的复杂性。该服务根据需要以称为Neptune容量单位的可配置单元来优化内存,并使用类似于SQL的流行OpenCypher查询语言。
Secondly, the analysis engine is extremely fast, up to 80 times faster than alternatives. It can load approximately 10 million graphic elements per second and analyze dozens of billions of edges within a second. The graph model itself is optimized for fast connection operations, which Neptune Analytics has further improved upon.
Thirdly, the service includes a vector search engine that combines vector similarity with graph queries for a deeper understanding. This makes similarity searches more interpretable by checking explicit relationships. For example, searching for drugs similar to protein vectors and then evaluating relevance based on graph connectivity.
Denise outlined three common use cases observed by early Neptune Analytics clients:
The first use case is temporary graph workloads for data science teams. The service allows for quick loading of graphs, running algorithms, and queries, taking snapshots to save intermediate results, and then closing resources after analysis is complete. This provides greater flexibility than configuring permanent infrastructure. A client used it to analyze financial data quarterly, loading the latest graphs, running algorithms to detect patterns, and then dismantling them until the next cycle.
The second use case is accelerating machine learning pipelines with low-latency graph queries. For example, a retail client will load customer purchase data into a graph, enrich it with graph algorithms to find communities and recommendations, and then feed these functions into their ML pipeline to improve product recommendation accuracy. This leverages the speed of Neptune Analytics.
The third use case is using vector similarity searches to identify candidates and reduce costs. A client in the drug research field used it to find candidate drugs similar to protein vectors. Graph connectivity helps evaluate true relevance, reducing costly laboratory tests. Another recruitment client used it to find job candidates similar to high performers, reducing the need for manual screening.
Denise then demonstrated a live usage of Neptune Analytics, starting with an example of investment data containing information on investors and their holdings. The graph used a structure where nodes represented holders (investors) and their quarterly investments. She configured the graph to allow public endpoint access for connection from notebooks and provided a 128-node demonstration workload.
海王星分析服务提供了示例Jupyter笔记本,以展示查询、算法和向量搜索的功能。丹尼丝打开了一个用于投资分析的笔记本,并在将其指向图形端点后运行了一个查询,以找到本季度持有资产总额最高的10位投资者。据数据显示,雷蒙德·詹姆斯(Raymond James)位居榜首,持有资产超过1亿美元。
接下来,丹尼丝想要将这些顶级投资者与其竞争对手进行比较。她使用了Jaccard相似性算法来评估顶级持有人投资组合与其他持有人的重叠程度。戴夫解释说,将openCypher查询与本地图形算法相结合是海王星分析的一个有吸引力的优势。客户可以更简单地组成复杂的分析工作流程,而无需拼接各种数据管道和自定义代码。
为了展示向量搜索功能,丹尼丝基于顶级持有者的嵌入向量表示执行了一个相似性查询。这返回了其他具有类似投资概况的持有人,为Jaccard算法提供了一个替代的相似度度量。在一个引擎中结合图形查询、算法和向量搜索的能力使得图形分析非常强大。
总的来说,丹尼丝总结了一个演示过程,展示了如何创建S3数据的图形、利用快速分析引擎以及如何从图形数据中获得见解。戴夫感谢与会者参加晚场会议,并鼓励他们提供反馈。他希望他们认识到海王星分析在亚马逊云科技云中为图形分析提供的独特功能。
总的来说,该会议概述了海王星分析如何为处理高度连接数据的应用程序提供快速、可扩展的图形分析。在完全管理的服务中结合图形查询、算法和向量搜索为从各种使用场景中的关系丰富的数据解锁见解提供了有吸引力的选择。强调的关键功能包括每秒加载1000万个图形元素, 秒内分析数十亿边, 结合OpenCypher和算法, 以及利用向量相似性——所有这些都可以避免基础设施管理。真实的客户示例有助于展示海王星分析的性能和灵活性,以及针对临时分析、机器学习管道、候选人识别等更多用途。
下面是一些演讲现场的精彩瞬间:
领导热情洋溢地欢迎同事们上台,参加re:Invent上的最后一场演讲。
在这场演讲中,领导展示了如何在Amazon Neptune中轻松地利用现有数据源创建图表的方法。
领导特别强调了在使用图形处理过程中,Neptune的容量单位如何有助于优化内存分配的问题。
亚马逊云科技正利用Hugging Face的嵌入技术来实现强大的知识图搜索功能。
此外,新推出的Neptune分析功能还提供了Jupiter笔记本,引导用户通过将图形算法应用于实际问题来解决商业难题。
亚马逊云科技Neptune ML为客户带来了简单、耐用且经济高效的图形机器学习能力。
领导对观众的感谢之情溢于言表,并邀请大家在演讲结束后提出问题。
总结
亚马逊Neptune分析是一款创新的数据库引擎,专为图形分析设计,旨在帮助数据科学家和工程师在短时间内洞悉连接数据。该引擎通过结合低延迟查询、向量相似性搜索和图形算法,实现了对数十亿边的快速分析。借助Neptune分析,用户可以轻松地配置图形容量,无需管理基础设施。该引擎采用OpenCypher查询语言,能够以过去80倍的速度加载和分析图形数据。向量搜索引擎通过显式图形关系的遍历,使得相似性搜索变得更加直观。
客户利用Neptune分析进行临时图形分析,将见解整合到机器学习管道中,并通过向量相似性降低实验室实验成本。这款引擎巧妙地将OpenCypher和图形算法相结合,呈现出一种可组合的设计。用户可以为工作流程中的可靠性创建快照。
总之,Neptune分析通过简化基础设施管理,让图形分析变得更容易获取。其高速性能以及将算法、查询和向量搜索相结合的能力,为用户提供了更快、更具针对性的来自连接数据的见解。
演讲原文
https://blog.csdn.net/just2gooo/article/details/134866157
想了解更多精彩完整内容吗?立即访问re:Invent 官网中文网站!
2023亚马逊云科技re:Invent全球大会 - 官方网站
点击此处,一键获取亚马逊云科技全球最新产品/服务资讯!
点击此处,一键获取亚马逊云科技中国区最新产品/服务资讯!
即刻注册亚马逊云科技账户,开启云端之旅!
【免费】亚马逊云科技中国区“40 余种核心云服务产品免费试用”
亚马逊云科技是谁?
亚马逊云科技(Amazon Web Services)是全球云计算的开创者和引领者,自 2006 年以来一直以不断创新、技术领先、服务丰富、应用广泛而享誉业界。亚马逊云科技可以支持几乎云上任意工作负载。亚马逊云科技目前提供超过 200 项全功能的服务,涵盖计算、存储、网络、数据库、数据分析、机器人、机器学习与人工智能、物联网、移动、安全、混合云、虚拟现实与增强现实、媒体,以及应用开发、部署与管理等方面;基础设施遍及 31 个地理区域的 99 个可用区,并计划新建 4 个区域和 12 个可用区。全球数百万客户,从初创公司、中小企业,到大型企业和政府机构都信赖亚马逊云科技,通过亚马逊云科技的服务强化其基础设施,提高敏捷性,降低成本,加快创新,提升竞争力,实现业务成长和成功。