利用亚马逊云科技AI改变云托管服务提供商业务

利用亚马逊云科技AI改变云托管服务提供商业务

关键字: [Amazon Web Services re:Invent 2024， 亚马逊云科技， 生成式AI， Amazon Bedrock， Cloud Managed Services， Generative Ai， Knowledge Management， Automation， Customer Experience]

导读

本环节探讨了生成式人工智能如何为托管服务提供商(MSPs)革新IT运营。通过利用Amazon Q和Amazon Bedrock等亚马逊云科技服务，生成式AI可以自动化任务、预测事件并增强决策能力。真实案例展示了生成式AI在节省成本、减少停机时间和提高服务质量方面的影响。主要议题包括利用动态操作手册实现事件分类自动化、知识管理、服务台自动化以及AI驱动的SLA报告。现场演示将展示生成式AI如何通过AI驱动的建议加速事件分类。本环节面向亚马逊云科技合作伙伴。

演讲精华

以下是小编为您整理的本次演讲的精华。

2024年亚马逊云科技 re:Invent大会上举办了一场题为“利用亚马逊云科技人工智能转型托管服务提供商业务”的精彩会议。Arublis MSP项目的全球技术主管Bappa和亚马逊云科技高级客户成功经理兼生成式人工智能全球负责人David共同亮相，阐述了生成式人工智能为托管服务提供商(MSP)带来的变革潜力。

David首先阐明了生成式人工智能的独特能力，可以创建出接近人类水平的内容输出。这一独特属性使得可以自动化和定制化原本需要人力的任务，从而缩短为客户创造价值的时间。他将生成式人工智能的能力分为两大类:内容创建和自然语言交互。David强调，生成式人工智能的输出不应只是呈现一系列文本，而应提供量身定制的响应以满足用户需求。

Bappa随后深入探讨了托管服务趋势的演变，展示了描绘行业过去三十年发展历程的Nueverse曲线。他指出，托管服务行业正处于一个范式转移的关键时期，从过去由人力驱动的劳动力仲裁时代，转向由人工智能驱动的技术仲裁时代。生成式人工智能作为新S曲线的顶点，将主导并改变托管服务行业，MSP必须适应这一变革。

针对MSP所面临的挑战，Bappa概述了五个关键领域:应对不断变化的MSP工具(包括人工智能/机器学习和自动化)(35%);满足不断变化的客户需求(24%);解决数据隐私、治理风险和合规性问题(15%);通过增值服务实现差异化(14%);以及从数据分析中获取客户洞见(12%)。此外，他还强调了根据最近MSP的反馈，招聘具备人工智能/机器学习技能的人才成为一项新兴挑战。

为了缓解这些挑战，Bappa和David提出了一个全面的360度视角，涵盖了下一代MSP实践的业务实践(业务、人员、治理)和技术实践(平台、安全、运营)。他们强调，生成式人工智能有潜力影响这种整体实践的方方面面。

David随后深入探讨了MSP可以利用生成式人工智能来实现业务成果的具体用例。在业务层面，生成式人工智能可以简化招标书和询价函的生成和响应流程，这些流程通常会消耗大量时间和资源。在人员层面，企业搜索和知识管理可以得到增强，使员工能够高效获取相关信息，而不必过度依赖中央支持职能。David表示:“有人说30%、40%，我实际上看到的数字更高，但我们决定在这里保守一些。但毫无疑问，使用生成式人工智能可以提高员工的生产力。”

在治理领域，生成式人工智能可以加速合规性和审计报告的创建，利用其快速生成基于基础设施、应用程序和投资组合数据的报告的能力。转向技术实践，在平台层面，生成式人工智能可以促进代码创建、转换、应用程序现代化和基础设施管理。

在安全领域，生成式人工智能可以增强威胁检测和响应能力，实现主动创建和实施政策，以缓解零日漏洞。David提到:“现在零日响应非常普遍，您实际上可以提前检测威胁，创建政策并实施该政策，远远早于您的安全运营团队对任何安全威胁做出响应。”

最后，在运营层面，生成式人工智能可以优化事件响应和管理，为客户提供更快的解决方案，解决他们通过MSP平台提出的工单。David表示:“事件响应和管理。我们将讨论的一个用例实际上就是围绕这一点以及客户如何获得响应并为他们通过MSP平台提出的工单找到解决方案。”

Bappa强调了负责任的人工智能实践的重要性，概述了四个关键实践:以人为本，确保对生成式人工智能及其负责任使用有充分理解;根据具体用例评估风险，考虑特定的上下文和安全要求;持续演进以适应不断变化的模型、客户业务需求和组织数据;以及严格测试，定义和衡量性能和安全关键绩效指标。

认识到MSP有机会支持客户的人工智能转型，Bappa强调了协助中小企业启动人工智能之旅或为企业实施人工智能运营(AIops)和机器学习运营(MLOps)作为服务的潜力。

David概述了亚马逊云科技成功采用人工智能的机制，包括构思会议、用例最终确定、原型制作和生产扩展。这些机制包括反向工作会议、高管简报会、沉浸式日、黑客马拉松和人工智能鲨鱼池，向合作伙伴和客户开放，通常免费提供，以加速他们的人工智能采用之旅。他表示:“这是一个典型路线图的例子，我们从可能性的艺术开始，大约需要2周时间。在用例最终确定、原型制作阶段，我们谈论的是大约11-12周。在最后阶段，从开始到结束的整个旅程可能需要3个月来最终确定范围，在亚马逊云科技的帮助下，我们可以通过这种方式采用用例。”

为了展示真实世界的实施案例，MSP合作伙伴Repli ID的Guido Nabioli分享了他们使用Amazon Bedrock、Atlassian的Jira和知识库构建AIops架构的经验。这个架构由PagerDuty中的事件触发，利用检索增强生成(RAG)模型在Jira工单中建议解决方案。实施后，平均恢复时间缩短了20%，10次中有9次建议的解决方案是准确的，大大提高了运营效率。Guido表示:“我们发现，10次中有9次，给运营人员的建议操作是正确的。运营人员可以轻松地按照工单中直接给出的说明解决客户的问题。目前，我们已经在这个架构中启用了20多个项目。”

Guido进一步阐述了架构细节:“我们以Atlassian的Jira作为入口点。每次打开工单时，都会调用API网关，传递工单信息。这将移动到Lambda进行处理，与Amazon Bedrock交互，然后Amazon Bedrock与大型语言模型交互。背后的想法是在工单中放入建议的解决方案供运营人员使用，但大型语言模型还不够好，因为它们没有信息。因此，我们采用了RAG架构，使用Confluence中的知识库，在向量存储中构建知识库，然后让Amazon Bedrock与这个托管的知识库交互，为我们正在协助的特定项目或特定客户检索信息，然后从现在由RAG辅助的大型语言模型生成解决方案。”

David概述了亚马逊云科技的生成式人工智能产品组合，包括基础设施(Trainium、Inferentia)、提供商和微调器(Amazon Bedrock)以及面向最终用户的解决方案(Amazon QuickSight、Amazon IVS)。他还介绍了亚马逊云科技 Skill Builder等资源以及人工智能从业者认证等认证，以提升技能并加速人工智能采用。

最后，Bappa鼓励MSP探索亚马逊云科技服务，确定他们的第一个生成式人工智能用例，定义成功指标，并寻求亚马逊云科技团队的协助。他分享了宝贵的资源，包括亚马逊云科技 MSP项目信息、GenAI Wise Cloud卓越中心以及合作伙伴注册详情。Bappa表示:“这是一个令人兴奋的GenAI Wise Cloud卓越中心。这是一个资源中心，里面充满了资源、培训材料、市场研究论文，还有一个专门的团队在这方面工作。因此，如果您需要任何帮助来构建您的第一个用例或探索我们已经探索过的任何用例，一切都可以在这里找到。目前已有250多种资源，我们正在不断扩大这个列表。”

这场会议强调了生成式人工智能为MSP带来的变革潜力，提供了实际用例、最佳实践和资源，帮助合作伙伴负责任地利用这项技术，实现业务成果。通过采用生成式人工智能，MSP可以以前所未有的效率运营，预测客户需求，并提供前沿服务，巩固其在托管服务领域的行业领导地位。

下面是一些演讲现场的精彩瞬间：

生成式人工智能正准备彻底改变托管服务行业，标志着从劳动力套利向技术套利的范式转变。

生成式人工智能能够在极短时间内处理大量数据并创建事件报告，从而实现在事件期间高效沟通服务影响、预计时间和业务流程关联。

通过全面的知识库，团队可以访问正确的数据以做出更好的决策，从而简化响应RFP、制定产品建议和更有效地解决客户问题等流程。

演讲者解释了Amazon Bedrock这一生成式人工智能服务如何与各种数据源集成，通过从不同来源整理知识，为解决事件提供准确的建议和动态运行手册。

亚马逊云科技推出了创新的人工智能运营架构，利用Atlassian的Gyra、Amazon Lambda、Amazon Bedrock和RAG辅助的大型语言模型，通过利用公司的知识库为智能票证解决方案提供支持。

亚马逊云科技推出了GenAI Wise云中心，这是一个综合性中心，提供资源、培训材料、市场研究和专门支持，用于在亚马逊云科技上构建人工智能用例。

总结

在这个全面的演讲中，演讲者深入探讨了生成式人工智能(GenAI)对于托管服务提供商(MSP)的变革潜力。他们强调了GenAI在新技术套利时代中的关键作用，有望彻底革新托管服务行业。

演讲者概述了MSP在生产环境中利用GenAI的六个关键用例:事件管理、知识库管理、自动化、客户体验、员工生产力和报告。他们提供了架构图和真实案例，说明GenAI如何能够简化流程、增强决策能力并提高运营效率。

演讲者强调了负责任的人工智能实践的重要性，包括以人为本、根据用例评估风险、持续发展解决方案以及严格测试。他们还强调了MSP通过人工智能运维(AIops)和机器学习运维(MLops)服务支持客户人工智能转型的机会。

来自Repli ID(MSP合作伙伴)的特邀演讲者分享了他们成功实施基于GenAI的事件管理系统的经验，展示了明显的好处，如缩短平均恢复时间和提供准确的解决方案建议。

演讲最后呼吁MSP探索亚马逊云科技 GenAI服务，确定首个用例，制定成功指标，并寻求亚马逊云科技资源和团队的支持，以助力在托管服务领域采用GenAI。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。做为全球生成式AI前行者，亚马逊云科技正在携手广泛的客户和合作伙伴，缔造可见的商业价值 – 汇集全球40余款大模型，亚马逊云科技为10万家全球企业提供AI及机器学习服务，守护3/4中国企业出海。