摘要
本文介绍了千亿美金市值,美国服务政企的AI高科技企业Palantir公司及其核心软件平台Gotham和Foundry,以及新产品大模型人工智能平台AIP和Apollo,它们旨在帮助政府和商业组织解决复杂问题,并利用数据做出更有效的决策。
Key Takeaways:
* Palantir是一家美国AI软件公司,致力于解决政府和商业组织中最棘手的问题。
* Palantir的核心平台包括Gotham(面向政府)和Foundry(面向企业)。
* Foundry是一个数据操作系统,可以帮助企业整合数据、进行分析和构建应用程序。
* AIP人工智能平台是一个新产品,旨在帮助客户利用AI技术,解决大型语言模型的可靠性问题。
* Apollo是一个平台,用于高效地交付和管理软件,并支持多云环境。
* Palantir的产品具有极高的可扩展性,其目标市场几乎无限。
* 文章用乐高积木做比喻,解释了Palantir如何帮助组织更好地利用数据。
全文
Palantir做什么的?
首先,让我简单介绍 Palantir。Palantir 由 Peter Thiel、Alex Karp、Nathan Gettings、Stephen Cohen 和 Joe Lonsdale 于 2003 年创立,最初由 Peter Thiel 的创始人基金和中央情报局的风险投资部门 In-Q-Tel 支持。该公司最初的任务是开发一个平台,通过集成和分析复杂的数据集来协助情报机构进行反恐工作。如今,Palantir 以其强大的数据集成和分析平台而闻名,主要是 Foundry 和 Gotham;它的最新增长来自于通过其 AI Platform 将 AI 产品化。其客户群涵盖政府和商业部门,知名客户包括美国国防部、中央情报局以及医疗保健、能源和金融等行业的主要企业。
===
Palantir 是一家软件公司,旨在解决政府组织和公司最棘手的问题,从用卫星瞄准敌军的将军(美军号称利用Palantir的AI情报系统,定位到了本拉登位置),到在大流行期间帮助分发疫苗,再到显著提高石油钻探的效率。特别是,我们可以将 Palantir 描述为具有以下功能的软件:
-
将所有数据集成并保存在一个名为“本体Ontololy”的单一管理平台中;
-
通过业务分析了解数据;
-
创建和管理 AI 模型;
-
在其上构建易于定制的软件应用程序以提高效率;
-
实施决策并记录对未来建议的影响。
Palantir 不是一个简单的软件应用程序。它是一个操作系统,无论在哪个行业,它都能使数字化转型从一个想法变为现实。Palantir 面向政企的服务能力基本上是无限的。
释放乐高积木的力量
如果这听起来很复杂,这里有一个乐高 (h/t @PalantirChad ) 的类比:
Palantir 帮助操作数据
我们可以将 Palantir 视为一个平台,它可以帮助您理解非结构化的乐高积木,以便您可以在需要时快速找到特定部分。
但是,Palantir 不仅可以帮助您以视觉上吸引人的方式按颜色组织积木。Palantir 还提供以下工具:
-
用安排好的乐高积木建造新事物;
-
向您展示有关如何构建它们的分步说明;
-
通过以不同的方式组合项目来提出新的想法。
通过执行这些任务,Palantir 产品可以实现数十亿美元的价值:
Palantir Foundry 成果
核心思想是,一旦您完全了解了操作环境,无论是战场、飞机还是整个组织,您都可以在可靠数据的支持下做出有效的决策。
Palantir 帮助任何实体改进其决策,从而改进其产出。
当我们说“Palantir”时,我们指的是一个平台,但实际上,每个平台都由数百种产品组成。
Palantir Foundry 就像一把瑞士军刀
尽管如此,直到 2021 年,Palantir 才开始将这些精细服务作为模块而不是整体产品进行销售,以促进销售。
让我们直接进入业务的核心:
Palantir 产品
Palantir 有两个核心平台,Gotham 和 Foundry,由两个横向到政府和商业方面的附加产品提供支持。
Palantir 产品的集成
以下是一个概要的解释:
-
Gotham**:**https://www.palantir.com/platforms/gotham/
政府的操作系统,专注于高风险环境中的决策。Palantir Gotham 是一个地理空间数据和情报平台,主要由政府和国防机构使用,用于集成和分析来自传感器、卫星和其他监控系统等来源的多模式数据。它擅长在地理空间环境中可视化复杂数据,使用户能够跟踪和分析运动、识别模式并实时响应新出现的威胁。Gotham 的功能在军事战略、边境安全和灾难响应等关键任务操作中非常有用,可提供作战环境的全面视图。
Gotham 的主要用例包括:
-
管理军事行动,从任务规划到敌人目标;
-
提供反恐情报;
-
支持飓风或地震等灾难响应。
-
Foundry :https://www.palantir.com/platforms/foundry/
现代企业的操作系统。Foundry 可以为任何行业的组织提供支持,目前已部署在 40 多个垂直领域。与许多针对特定层级运营商的 SaaS 产品不同,Foundry 的目标是为组织的所有员工赋能,无论他们是技术操作员、业务分析师还是最高管理层决策者。随着 Windows 操作系统使 PC 可用,Palantir Foundry 使企业能够释放其数据的力量。Foundry 旨在通过将数据和模型集成到运营工作流中而不中断已建立的系统,从而增强和扩展现有的数据基础设施投资,例如数据湖和仓库(Snowflake 或 DB,甚至 S3 或 Azure)。它仅同步特定任务所需的数据,确保原始数据源保持不变。Foundry 支持双向数据流,允许在平台内生成的数据自动更新回企业系统。它还通过详细的跟踪和精细的访问控制来实施强大的治理,使其能够适应复杂、不断发展的企业战略,同时保持数据完整性和合规性。
它的核心优势在于其本体系统(Ontology system),它允许用户将他们的数据建模到代表其业务运营和实体的共享框架中。该系统支持跨部门的无缝协作和一致性,确保所有数据交互都与组织的目标保持一致。
-
Airbus、BP 和 Morgan Stanley 等大型企业选择 Foundry 是因为其可扩展性、灵活的部署选项和全面的安全功能。它可以部署在本地、云中或混合环境中,使其适用于具有严格数据管理和合规性要求的行业。Foundry 提供详细的基于角色的访问控制、数据沿袭跟踪以及与现有系统的自动同步。其保留系统可执行数据保留策略,而本机 SSO 集成可简化安全访问。这些功能与端到端加密和对复杂数据工作流的支持相结合,使 Foundry 成为需要灵活性和强大数据管理的组织的理想选择。它与现有基础设施投资无缝集成的能力进一步增强了它对需要在自定义、安全性和数据控制之间取得平衡的公司的吸引力。
-
Foundry 用法的几个示例
-
促进松下蓄电池的生产,
-
提高空客 A350 的产量,
-
并帮助 BP 以极低的成本开采更多的石油。
以下是一段简短的视频,展示了 Foundry 如何为能源公司提供支持:
-
大模型人工智能平台(“AIP”):
https://www.palantir.com/platforms/aip/
最新的产品,旨在通过实施 ChatGPT 或 LLaMA 等大型语言模型(“LLM”)来帮助客户驾驭人工智能革命。这些模型功能强大,但当应用于业务环境时,它们会提供错误的答案(“幻觉”),从而使运营面临风险。AIP 是一个与其他 Palantir 平台集成的模块。借助 AIP,公司可以利用 LLM 的优势,同时知道模型为运营提供可靠的答案和支持,同时遵守护栏。AIP 的可靠性在于能够与组织的数字孪生(“本体”)连接并提供工具来“指导”模型。
Palantir 的人工智能平台 (AIP) 提供了一个平台和工作流构建器,旨在创建、部署和管理 AI 应用程序。AIP 不是集成简单的聊天,而是让开发人员能够将应用程序中的 AI 转化为代理和自动化。Foundry 和 AIP 齐头并进,并且经常一起部署。AIP 支持将 LLM 集成到具有生产级功能(如错误处理、自动重试和有保证的输出架构)的数据管道中。通过 Workflow Builder,用户可以设计 AI 应用程序和操作,同时利用本体来确保 AI 逻辑与企业的运营框架保持一致。
AIP介绍:
下面的视频展示了 AIP 如何在战场上产生显著优势:
-
帮助创建虚拟 AI 助手,这些助手可以以聊天查询以及根据自然语言描述构建数据管道和应用程序的形式提供平台内帮助(“AIP Assist”);
-
构建代理以自动执行从警报修复和计划到其他常见企业任务(“AIP Logic”)的任何操作;
-
编排使用 AIP Logic 创建的多个 AI 代理,这些代理通过提案和场景帮助操作员进行决策过程(“AIP 自动化”)。
Palantir将企业的决策过程分解为三大要素:数据(Data)、逻辑(Logic)和行动(Action).
这共同构成了Palantir设计的企业决策模型—Ontology**(本体),同时也是AIP产品的核心。相对广为人知的RAG概念,Palantir创造性地提出OAG(Ontology Augmented Generation)**,意在表达AIP的优势在于:不只是做知识、数据的召回,而是同时融合企业私有数据(Data)、企业内部系统工具(Logic)、业务人员交互反馈(Action)对大模型能力进行增强,以达成业务优化的目标。具体而言:
- 在数据(Data)层,Palantir的优势在于深入理解业务,能够对企业业务进行有效的抽象、提炼,并基于此对多源异构数据进行归一化处理,形成统一的语义表示(面向人的Human interfaces)和服务接口(面向系统的AI interfaces)。
-
在逻辑(Logic)层,主要体现为大模型与传统小模型的结合、与业务系统/业务逻辑的结合,及能够将其有效串连起来的低代码/无代码流程编排工具。这部分可能是AIP平台和常见Agent平台最为相似的地方。
-
在行动(Action)层,Palantir十分明确地表示LLM不是代替而是辅助人行动,因此为AIP的Workflow Services设计了完整的控制(Controls)、审核(Reviews)、模拟(Simulations)的程序,包括独立的沙盒环境和人在反馈回路,以确保AI的行动建议能够得到安全的执行,并通过人工的反馈对「逻辑」层的模型和流程进行不断迭代更新。
下面由 Chad Wahlquist 提供的视频展示了 AIP 如何有效地帮助在关键环境中做出决策:
AIP 的开发环境包括用于调试 AI 逻辑、比较模型性能以及使用可自定义基准监控 AI 应用程序的功能,所有这些都通过直观的仪表板进行可视化。Ontology SDK 进一步将软件开发锚定在业务环境中,允许开发人员直接从他们喜欢的 IDE(如 VS Code)构建 AI 应用程序。这个结构化、可重用的框架可帮助企业快速扩展 AI 部署,并通过以决策为中心的共享模型管理其业务的运营事实。
Palantir AIP 的主要客户包括美国国防部、默克和 IBM 等组织,他们将该平台用于从预测性维护和供应链优化到药物发现和客户服务的各种应用。这些使用案例利用 AIP 的功能将 AI 集成到复杂的工作流程中,从而在不同行业实现实时决策和运营效率。AIP 可能是 Palantir 股票作为 AI 平台飙升的主要原因。
-
Apollo:
https://www.palantir.com/platforms/apollo/
是 Palantir 平台背后的大脑。Apollo 最初是为了促进 Gotham 和 Foundry 的更新而开发的,它以高效的方式大规模交付和管理软件。Palantir 于 2022 年开始将该平台商业化。虽然其他平台可能供所有运营商使用,但 Apollo 的目标是让软件工程师的生活更轻松。
Palantir Apollo 是一个全面的 DevOps 平台,用于管理不同环境中的软件部署,并自动执行持续集成和交付 (CI/CD) 流程。它简化了部署管道,支持在本地、云和混合设置中快速交付功能并实现稳定的性能。Apollo 的替代方案包括 GitHub Actions、GitLab CI/CD、Jenkins、CircleCI 和 AWS CodePipeline 等平台。这些工具提供不同程度的定制和集成支持,帮助组织自动化软件交付并简化开发流程,同时保持高可靠性和速度。
特别是 Apollo可以:
-
促进软件持续交付,即使在边缘也是如此;
-
确保软件合规且安全;
-
通过允许编写一次在任何云(AWS、Azure 或 GCP)中运行的代码来解锁多云。
Palantir Apollo 促进多云
Palantir 的 Apollo,特洛伊木马
一篇关于 Apollo 的专门文章
https://www.palantirbullets.com/p/palantirs-apollo-the-trojan-horse,解释了它的免费增值模式如何促进对 IT 部门的销售:
免费增值特洛伊木马 Palantir 经常因没有“免费增值”产品而受到批评,而该产品将促进向 IT 部门的销售。
您还可以在下面找到解释 Apollo 的视频:
商业
财务表现
随着 PLTR 0.00% ↑ 的 ARR 接近 30 亿美元,Palantir 的年增长率为 27%(在过去一年中加速),现金流利润率为 21%。该公司以其运营效率而闻名,仅在 2024 年第二季度就取得了 48% 的 40 法则得分,并获得了 27 笔超过 1000 万美元的交易。在 IPO 时,其前 20 名客户占收入的 67%,每个客户都超过 $25M,这表明了该公司赢得的大笔交易的性质。随着扩展到更多商业交易,其客户数量增长速度超过收入,同比增长 41%。盈利能力增长最快,去年年化净收入从 $112M 增长到 $536M——同比增长 378%。其收入组合大致平衡,55% 来自政府合同(其中 75% 与美国政府相关),45% 来自商业客户。
业务概述:Gotham-政府
该公司历史上首次从美国政府合同(包括国防和情报机构)获得的 12 个月收入超过 10 亿美元。今天,其年化政府收入超过 $1.5B,同比增长 23%,环比增长 11%。美国政府收入贡献了其中的 ~$1.1B。这一增长反映了美国政府对 LLM 等新兴技术的快速适应,认识到它们为国防和情报行动带来的变革潜力。购买 Palantir 的主要政府机构包括国防部、中央情报局等各种情报机构和国土安全部。这些机构将 Palantir 的平台用于反恐、军事战略和边境安全等关键应用程序。
强烈建议您查看 Palantir 的 FedStart 计划
https://blog.palantir.com/introducing-palantir-fedstart-cd5995d0dfaa ,该计划可帮助软件公司满足联邦安全性和合规性要求。Palantir FedStart 允许软件公司在 Palantir 安全、经认可的环境中运行其产品,而无需单独的 FedRAMP 或 IL5 认证。通过容器化软件,公司可以使用 FedStart 将其解决方案快速交付给政府机构,从而在短短几周内满足关键安全要求。Fedstart 允许软件供应商进入政府市场。通过简化此流程,FedStart 使科技初创公司能够争夺传统上难以获得的美国联邦合同。
业务概述:Foundry-商业
Palantir 最显着的增长是其美国商业业务,这得益于生产中对 AI 的需求不断增长及其 Foundry 平台的功能。2024 年第二季度,美国商业收入同比增长 55%,年化达到 $636M。金融服务、医疗保健和传统行业的财富 2000 强公司寻求大规模利用 AI 推动了这一激增。Foundry 的数据集成和 AI in Production 平台跨企业实施 AI 的能力是关键驱动因素,使公司能够有效实施 AI 并推动业务成果。
其商业业务的值得注意的统计数据包括:
-
美国商业收入:$636M 年化,同比增长 55%。
-
国际商业收入 :$592M 年化,同比增长 16%
-
已完成的交易:96 笔超过 $1M 的交易,33 笔超过 $5M 的交易,27 笔超过 $10M 的交易。
-
平均交易规模:每位客户 220 万美元。
-
美国商业客户增长:同比增长 +83%,环比增长 +13%,达到 295 个客户。
如何学习大模型 AI ?
由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
第一阶段(10天):初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么?
- 大模型是怎样获得「智能」的?
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例:向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段(30天):高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示(Embeddings)
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段(30天):模型训练
恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。
到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2:手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段(20天):商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身:基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例:如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。
如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。