甲骨文：聚焦企业生成式AI，做好企业新质生产力的赋能者

从2022年底ChatGPT横空出世以来，生成式AI的发展正为各领域带来巨大变革，包括ToB和ToC场景的机会。如何更快、更有效地推动生成式AI在企业场景中的落地成了业界关注的焦点。 

在每年的财年结束前，甲骨文公司内部都要采用自己的HCM软件完成全员的年度绩效考评。作为团队负责人，甲骨文公司副总裁及中国区CTO谢鹏博士会要求其管辖下的每个部门经理，除了要和自己部门的每个员工谈话并打分以外，还要写一段中肯且有建议性的评语。往年，就是这样一段简短的评语，也会让每个基层管理者挠头。

不过，现今的情况则不可同日而语了！因为HCM软件正在内置最新的AI Assistant，再结合HCM的社交功能，部门经理可以很轻松地完成一段既具有高度概括性，同时又不失个性化的评语。其实，不仅仅是绩效考评可以依靠AI提升效率，甲骨文公司的很多日常工作都在AI的辅助下变得高效而快捷，比如在招聘工作中，Hiring Job Description借助AI Assistant可以更准确地描述岗位职责，做到人尽其才。类似的例子不胜枚举。

甲骨文公司副总裁及中国区CTO谢鹏博士

 “这种把生成式AI嵌入应用、数据和基础设施每一层, 仅是甲骨文服务企业生成式AI能力的一部分。在各种各样大模型层出不穷的今天, 不能忽略为企业生成式AI的落地提供高性能算力以及打通公共数据集和专业数据集用于大模型训练和生成的平衡能力, 以保证AI模型可以接受大量内部和专业知识的训练。”谢鹏博士在概括甲骨文的生成式AI能力时这样说。

算力，算力，还是算力

无论是模型的训练还是推理，对于算力的需求都是空前巨大的。云基础设施如何才能为生成式AI提供源源不断的高性能的算力支撑，这是关键挑战所在。这主要涉及三方面的问题：一是能不能获得算力资源？二是即使能够获得算力资源，又如何构建一个高性能的基础设施？三是在满足算力需求的前提下，如何做到时间和成本的有效节省？

作为生成式AI基础设施的提供者，甲骨文公司是如何克服上述难题的呢？它已经用实际行动做出了回答。

算力短缺？甲骨文公司通过与英伟达实施战略合作，在其第二代的云基础设施OCI中部署基于RDMA并叠加GPU的超级集群（SuperCluster）。高性能算力从何而来？OCI可以支持最大规模为16,000个GPU的集群。埃隆·马斯克成立的人工智能公司xAI专注于回答更深层次的科学问题，它对算力的需求是超级的，而OCI就在为其提供算力支撑。高性能的算力如何实现可控与节省？众所周知，微软的必应搜索已经采用了AI引擎。但你可能不知道的是，在算力支撑方面，除了Azure以外，OCI也是其中的一员。

为生成式AI提供更快速、更高性能以及更高性价比的算力交付，这正是甲骨文公司所擅长的。

大模型、多模型

不依赖一种大模型

有的人利用生成式AI聊天，乐此不疲；有的人借助生成式AI赋诗作画，沉醉其中。除了这些个人消费领域的应用场景以外，生成式AI如何在企业级应用场景中开疆拓土，才是甲骨文公司和众多行业用户所关注的。

那么站在企业的角度，生成式AI究竟带来了哪些挑战呢？第一，找到企业生成式AI的落地场景，并结合自己的专属知识库去创造业务价值。第二，企业如何通过预训练到微调，生成精确的答案和结果，同时还要确保整个过程具有最优的ROI。

在明确了企业用户的需求和挑战之后，甲骨文公司的定位和职责也就一目了然了。谢鹏博士表示，从产业侧或企业侧看大模型，不仅投入大, 效果上也并不能立竿见影。甲骨文公司在大模型方面主要从以下三个方面服务企业：第一，提供高质量预训练的大模型, 包括OpenAI、Llama 2和Cohere 等; 第二，企业可以个性化定制自己的大模型，用专业数据和知识库完成从预训练到微调以满足独特的业务创新所需；第三，从处理到存储完整托管在OCI上, 保证生成式AI高效、安全、稳妥地落地，甲骨文公司还提供相应的数据治理能力，以及合规与安全等方面的保障。

基于上述三方面的能力与保障，甲骨文公司不仅能够为企业用户提供生成式AI所需的高性能算力，而且能够保证大模型的可用、定制，以及安全合规。概括而言，简化大模型的应用，以易用安全的能力推动AI在企业中的场景地落地，这就是甲骨文公司在生成式AI时代新的使命。谢鹏博士评论说: “甲骨文公司没有盲目加入大模型从0到1构建的赛道，而是着力帮助企业完成主流大模型公有私用的专业对接, 踏实做好生成式AI所需的算力资源、大模型的微调和检索增强以及企业专业数据的协同运作。这些大模型具体包括Open AI、Cohere、Llama2 (7B,13B,70B)，还有Mistral 7b等，可以使用TGI文生推理架构, 如Hugging Face、vLLM, 轻松部署大语言模型。”

微调、RAG、Vector Database
一个也不能少

除了OCI Generative AI服务以外，甲骨文还发布了OCI Generative AI Agents系列中的首个RAG预览版。

“面向垂直业务或企业特定任务，生成式人工智能技术的表现还无法给出精确的回答。如何针对特定知识构建企业专属问答并且确保生成的内容可信，是Gen AI在企业能不能落地的关键”, 谢鹏博士接着说：“OCI GenAI RAG Agent是一种将上下文添加至已训练AI模型中以实现关联性改进的机制, 只有将微调, 检索增强生成 (RAG) 和包括Vector Database的多模态检索组合打通，企业级生成式AI才能从概念走向现实, 这是甲骨文赋能企业跨越AI技术到实际应用的最后一公里之举措。”

谢鹏博士介绍向量搜索时说, Oracle Database 23c中添加使用AI向量的“语义搜索功能”, AI向量搜索功能包括新的向量数据类型，以及向量索引/搜索SQL，使其能够存储按相似性组织起来的图像、音频、文本文档及其他非结构化数据等语义内容。重要的是，这将帮助原来核心业务数据已经在Oracle数据平台上的客户更快、更轻松地整合并访问多模数据包括向量数据，而AI向量搜索更让企业专用数据在检索增强生成（RAG）中的使用成为可能。甲骨文OCI Generative AI Agents自带RAG Agent, 可无缝集成 Cohere和Meta Llama 2 的大型语言模型 (LLM)，以灵活的微调选项有效解决各种企业业务用例。目前可连接企业构建在OpenSearch上的各种知识, 进而下一步连接Oracle Database 23c AI Vector Search和MySQL HeatWave Vector Store。

OCI Generative AI也已经集成到Oracle 数据库和Oracle Cloud Apps等技术堆栈中。另外，甲骨文还在积极扩展OCI Data Science的功能，让客户能够使用开源库构建、训练、部署和管理LLM。全新的OCI Data Science AI Quick Actions功能测试版将于近期发布，它可以支持对各种开源LLM进行无代码访问。

SQL 、Select AI、文生SQL
企业应用开花结果

甲骨文公司致力于打造涵盖整个堆栈的端到端生成式AI体验，Select AI就是一个具体体现。谢鹏博士介绍说, 为了赋能使用Oracle Database的开发人员构建AI应用，Select AI实现用自然语言与Oracle数据库的对话，将文本生成SQL，并进而完成从微调到数据库查询的执行。Select AI首先在文本查询和对应的SQL语句的数据集上对模型进行微调。微调完成后，将文本查询作为输入给模型，生成对应的SQL语句作为输出，然后在数据库上执行生成的SQL语句以获取所需信息。

“在企业级应用场景中，LLM的易用并不是一句空话。我们已经将AI嵌入到从SaaS应用层到数据服务层再到云基础设施服务层。”谢鹏博士总结说，“从上到下, 在Oracle Fusion SaaS应用中随处可利用AI Assistant 提高工作效率; 在数据平台层，我们将生成式AI嵌入Data Science（数据科学），可以一键部署、开通生成式AI，轻松支持不同规模的参数模型;在数据库层,  Autonomous Database Select AI 现在支持开发人员创建AI 应用，可在会话线程中理解用户用自然语言提出的问题，并从专用数据中获取答案;在云基础设施层，基于自治服务，本来就是由ML/AI驱动的，现在嵌入生成式AI是自然的演进。”

Wikibon首席研究官Dave Vellante也对甲骨文在企业级生成式AI方面采用全栈方法给予了充分肯定。他认为，甲骨文的AI产品涵盖从开箱即用的RAG、各种微调模型，到整个集成堆栈中的AI技术，形成了高度差异化的企业AI策略。

甲骨文能够为企业用户提供无缝的生成式AI体验，其本质在于，甲骨文提供的不是需要用户自己动手组装的零散部件或工具，而且是端到端集成的服务，其典型代表就是最新推出的Oracle OCI Generative AI服务。这是一项全面托管服务，可无缝集成 Cohere和Meta Llama 2，有效应对各种业务用例，包括客户运营、市场营销、销售、风险和法务、策略和财务等。如今，Oracle OCI Generative AI服务包括可支持超过100种语言的多语言功能、升级版GPU集群管理体验，以及灵活的微调选项。企业用户可以在Oracle Cloud和本地环境中通过Oracle OCI Dedicated Region使用此服务。

立足智能化时代，甲骨文的核心竞争力体现在能够将大模型、数据和算力叠加在一起，为生成式AI的落地保驾护航。

往/期/回/顾

从业务角度看“云”，Oracle OCI安全合规为企业全球化部署打造

你应该知道的甲骨文企业混合云

从业务角度看“云”，Oracle OCI安全合规为企业全球化部署打造

甲骨文的“反骨”

甲骨文的“反骨”