欢迎来到AI产品经理从0到1研习之旅。
在本文中,我们会结合简单的示例,一起研究和学习基于大型语言模型 (LLM) 的产品开发流程,了解基于LLM的产品实现的所有必要阶段,包括规划、执行和监控。
自ChatGPT、Midjourney、Runway等产品推出以来,围绕生成式人工智能GenAI的讨论非常热烈。它所拥有的潜力令人兴奋,有望彻底改变行业并重新定义用户体验。然而,生成式人工智能的成功实施需要战略方法、对流程的理解以及清晰的路线图来应对所涉及的复杂性。
对于初次尝试结合LLM对产品进行重构或优化的新手AI产品经理,关键在于理解如何将这些工具集成到现有的产品管理流程中。让我们把这个过程分解为几个基本阶段,这些阶段需要周密的计划、精确的执行和警惕的监控。
首先,识别你的产品中可以通过LLM提升的部分,例如客户支持、内容生成或数据分析。其次,确定你的业务目标和用户需求,这将帮助你选择合适的LLM平台和模型。接着,通过小规模实验来测试LLM的效果,并根据反馈进行迭代优化。最后,不断监控LLM的表现,并确保它符合业务的长期战略和合规要求。
接下来让我们一一展开~
01
—
准备:规划基于LLM的产品项目
与任何成功的项目一样,LLM开发项目需要经过彻底的思考和周密的规划。准备阶段致力于制定项目的总体目标并概述战略计划的细节。
阶段目标
此阶段可以由想要构建产品的公司/团队独立进行,也可以与其决定合作的LLM提供商(例如Azure AI、百度千帆、华为盘古、智谱AI……)合作进行。
在这一阶段,收集必要的资源非常重要,包括将用作上下文输入或用作LLM训练过程的数据集的相关数据。第三方供应商(例如LLM提供商)可能无法访问某些数据。因此,在现阶段就考虑如何克服这些障碍是必须的。
假设我们是一家名为Nice的自营电子商务公司的产品经理,公司(的运营部门)期望我们能提供一个工具(让我们把它命名为“商品描述生成器”),可以根据产品功能的简短列表为其网站生成产品描述。
在此阶段,我们应该收集数据,例如内容风格指南、每个产品的特征列表以及现有的产品描述,这些数据将在训练过程中用作LLM的上下文输入和输出。例如,如果公司无法与第三方供应商共享部分信息,可能是因为我们正在推出一款新产品,其详细信息仍然保密,那么就应该在现阶段考虑这个问题,并寻求合理的解决方案。
识别利益相关者(项目干系人)
利益相关者包括首席执行官、首席技术官和产品经理等战略决策者。产品经理通常是这个战略阶段的关键人物(要有这个自信哈哈),因为我们对技术和业务都有所了解,是能够衔接和转换需求的人。
此外,最终实施该解决方案的人员也必须参与其中,以贡献他们的技术和实践专业知识。其中包括数据科学家、数据工程师、软件工程师、开发人员和设计师。
此外,除了业务分析师和领域专家协助做出最明智的战略决策外,法律和合规团队还应参与解决隐私问题。
当然,在小公司/团队中,可能并不具备这样“完整”的人员配置。
02
—
构建产品
一旦准备阶段完成,并制定了所需的结果,就可以构建模型了。
阶段目标
在这个阶段,我们的目标是落实准备阶段制定的所有计划,达到预期的结果;即LLM模型接受特定的输入并检索和生成适当的输出。
本阶段要完成的任务包括:
(1)选择语言模型:这将在LLM提供者的帮助下完成。根据具体用例,需要考虑许多不同的因素。这些因素包括成本、性能和模型处理用例复杂性的能力。
(2)定义用户流程和线框图(产品原型):此阶段需要概述正在构建的工具的用户界面,同时确定预期的用户输入数据、其格式和所需的输出。如果正确完成此步骤,将在开发和构建产品时节省大量时间。
(3)数据管理:这涉及为特定用例管理和准备必要的数据。这可以包括LLM各个组成部分将提供的不同类型输入的示例,以及所需输出的示例。该数据将用于在模型评估阶段测试模型的输出。如果数据安全问题尚未解决,那么现在是时候确定哪些数据可以共享,并找到任何数据隐私问题的解决方案。
(4)模型训练/提示词工程:这是一项至关重要的任务,公司需要定制大语言模型以满足其特定需求。
这可以使用两种方法之一或两者的组合来完成。
第一个是通过向语言模型提供输入和预期输出的示例来进一步训练语言模型。这使我们能够学习特定语言模式的复杂性。二是提示词工程。这涉及为语言模型精心定义输入查询、指令或上下文,以提供准确且相关的响应,优化特定任务或应用程序的预期输出。
5.模型(参数)调整:根据我们的具体需求调整参数(例如Temperature、TopP、TopK)以优化响应质量。此步骤完善了模型理解和生成类人响应的能力,与产品目标保持一致。
6.模型评估:根据不同的场景和基准评估模型的性能。该评估提供了对其优势、劣势和需要改进的领域的见解,最终指导我们打造出想要的最终产品。
7.预处理和后处理:预处理涉及清理和构建模型的输入数据,而后处理则完善模型的输出,确保其连贯、语法正确并符合我们的品牌调性/业务需求。
使用结构化的LLM提示词,构建可扩展的商品描述
回顾关于自营电商平台商品描述生成器的示例,在这个阶段,我们必须确定要使用哪种语言模型。在这种特殊情况下,基础模型是最合适的。
当目标是自动化、高质量的产品描述时,提示词的结构化至关重要。通过精心设计的prompts,企业可以生成无数的描述,这些描述不仅对每种产品都是独一无二的,而且始终坚持品牌的基调、风格和指导方针。
以下是可供参考的结构化提示词输入(由3部分构成):
(1)品牌指南(常量):这部分构成了每个产品描述的支柱。通过将品牌指南嵌入到prompt中,可以确保生成的每个描述都忠实于品牌的风格、语气和价值观。例如,指南可能指示LLM保持某种语气(例如,技术性、精确性)、强调特定细节或遵循特定格式。
提示词(示例)
输入>>>
Nice品牌指南
品牌声音
Nice的品牌声音被定义为技术型、精确和赋能。在编写产品描述或任何其他内容时,至关重要的是提供展示我们技术能力、强调精确细节的信息,确保我们的受众因对产品的理解而感到被赋能。
声音调性示例:“配备Wi-Fi和一个机载麦克风系统,[产品]可以连接到您家的无线网络,并允许您直观地播放音乐…”,“将您的游戏和电影带到[产品名称]的大屏幕上”,“这款由[技术]支持的智能电视连接到您的家庭网络…”,“使用智能中心来找到和流式传输节目和电影…”,“…它使用[技术]以确保游戏和快节奏动作平稳无模糊。”
准确性的重要性
Nice品牌的核心植根于精确性。在编写产品描述时,始终直接引用产品特性列表。每个提到的特性都必须在描述中准确呈现。例如,如果某个特性说明是"1080p全高清网络摄像头",确保它正如此被精确写下,而不是"720p全高清网络摄像头"或任何其他变体。
描述结构
在我们的产品描述中保持一致性,不仅有助于可读性,而且确保我们的客户在所有产品中享受统一的体验。为此,单段落规则:所有产品描述应该构建为一个单独的、连贯的段落。避免将内容分解成多个短段落或使用换行符。
(2)产品详细信息(变量):这是提示的动态部分,为每个产品量身定制。通过替换诸如{产品名称}和/或{功能列表}之类的占位符,企业可以自动生成大量产品的描述。
提示词(示例)
产品:
-
产品名称:Nice CU7000 晶体 UHD 65寸 4K HDR 智能LED电视
-
功能列表:
-
UHD 4K 3840 x 2160 QLED面板
-
PurColor 带HDR
-
由Nice提供动力的智能电视
-
Nice游戏中心
-
带有Motion Xcelerator的改进清晰度
-
晶体处理器 4K 上行转换
-
Wi-Fi 5, 蓝牙 5.2 和以太网
-
3 x HDMI 2.1输入,1 x USB端口
-
内置小度的语音控制
-
包含SolarCell遥控器在内
(3)Instruction即指令(常量):一致的指令向LLM告知确切的任务,例如创建一段产品描述。这可确保输出符合所需的格式并每次都遵守品牌指南。
提示词(示例)
基于其功能列表,为上述产品编写一个详细的单段落产品描述。产品描述必须遵循Nice品牌指南。
这种模块化的提示词结构的优点是它的可扩展性。一旦组织建立了品牌指南和说明部分,它就可以轻松地插入不同的产品详细信息以批量生成描述。恒定部分(1和3)确保品牌一致性,而可变部分(2)确保产品特异性。这种系统方法提供了简化的解决方案,确保产品描述生成的效率和质量。
以下是我们期望从产品描述中获得的内容的示例(基于ChatGPT生成):
输出结果(示例)
输出>>>
Nice CU7000 Crystal UHD 65寸4K HDR智能LED电视机,是一款集先进技术与优雅设计于一体的视听产品。这款电视配备了UHD 4K 3840 x 2160分辨率的QLED面板,结合PurColor技术与HDR,为用户带来了丰富而真实的色彩体验。Nice独创的智能电视平台,内置Nice游戏中心,满足了不同用户的娱乐需求。借助Motion Xcelerator技术,画面动态更加流畅清晰,而Crystal Processor 4K的上行转换功能则进一步提升了图像质量。电视支持Wi-Fi 5、Bluetooth 5.2和以太网连接,具备3个HDMI 2.1输入口和1个USB端口,易于连接多种设备。配备内置的百度小度语音控制功能,操作更加便捷,而SolarCell遥控器的加入,则让使用体验更加智能环保。
温馨提示:虽然许多公司希望创建一个完全自动化的系统,但由人工监控系统以确保输出质量非常重要。
03
—
模型部署
一旦对模型在产生预期结果方面所表现出的熟练程度和有效性感到满意,下一步就涉及将模型战略部署到所选平台上。
阶段目标
工作推进到这一步,意味着从理论概念到现实世界实用性的转变,从而能够将模型的功能集成到预期环境中。总体目标是让模型在所需的平台上运行,以便最终用户可以使用它。
回顾我们的商品描述生成器示例,在这个阶段,可以将把商品描述生成器集成到内部系统中(如管理后台-商品管理模块)。这将使负责创建产品描述的人员能够访问和使用它。
本阶段要完成的任务
将LLM部署到所需的平台涉及一个简化的过程,可以通过多种不同的方法来完成:通过API直接连接模型、利用SDK或利用云服务器。例如Microsoft Azure AI、Google Cloud Platform、百度千帆大模型平台等获取。这使得使用这些AI基础设施的任何公司都可以轻松访问这些模型。
通过与LLM提供商的API集成,您可以在平台和模型之间建立直接的通信渠道。这使得输入查询的无缝传输和模型生成的响应的检索成为可能。此外,利用云服务器(例如主要云提供商提供的服务器),您可以托管 LLM 并通过互联网进行访问。这种基于云的部署可确保可扩展性,使您的平台能够有效处理不同的工作负载。
温馨提示:确保最终产品在发布前经过完整的质量保证 (QA) 和测试流程。
04
—
监测结果
流程的最后阶段是监控已发布的产品并分析其性能。
阶段目标
主要目的是密切关注产品的技术性能及其对业务的影响。了解用户的反应、他们对产品的参与程度,并接收和分析他们的反馈。这也是改进、扩展或发展产品的时候。如果结果不符合预期,那么就该检查哪些措施有效、哪些措施无效,并采取相应行动。
在这个阶段,正如我们的示例中所讨论的,公司应该开始使用商品描述生成器来创建商品描述。与此同时我们还应该监控结果,包括观察用户对更新的产品描述的反应,以及对应的销售额是否增加、减少或没有变化。
进一步优化和改进
为了确保产品的最佳性能,与LLM提供方(如智谱AI、百度千帆)保持沟通渠道势在必行。这确保了产品发布后任何新模型和功能的无缝集成。此外,定期进行测试至关重要,以便及时解决任何问题。如果出现任何问题,尽早与LLM提供方沟通至关重要。这有助于及时诊断问题的根本原因并制定可行的解决方案。与LLM提供方的这种积极互动和参与,符合持续改进的理念,并确保产品始终满足其预期标准。
05
—
总结
在现代商业的动态格局中,基于LLM的解决方案的重要性日益凸显。然而,打造LLM驱动的产品需要细致入微的理解和细致的规划。这一过程包括精心准备、精确模型构建、战略部署和警惕监控。
同时,大模型领域的快速发展(说是日新月异亦不为过)要求产品经理不断学习最新的技术动态。通过参与在线课程、研讨会和行业会议,可以确保我们的知识保持更新。同时,实践是理解和掌握LLM的最佳途径。不要害怕开始小规模实验——这些都是学习过程中宝贵的步骤。
延伸思考
对于淘宝、京东、亚马逊、Shopify、有赞这样的大型B2C电商平台或SAAS供应商而言,由于涉及到不同的品牌商户,那么其结构化提示词又该如何设计更合适呢?
(毕竟如果都用统一的风格,全站的类似商品描述可能会很接近,那就有点尴尬了)
思考
为大型B2C电商平台或电商SAAS供应商设计结构化提示词时,需要考虑的关键点包括品牌差异性、商品多样性、以及个性化需求。每个品牌商户都会有其独特的品牌语言和市场定位,因此,生成的商品描述不应该是一成不变的,而是要具备高度的定制性和多样性。这意味着结构化提示词的设计需要灵活,能够捕捉和反映不同品牌的独特性,同时还要能够应对各种商品的特殊性。
可能的应对策略有:
-
品牌个性化:结构化提示词应该包含品牌风格和语言的元素,可以是品牌的口号、特定的形容词或是品牌故事中的关键词。
-
商品分类:根据商品类别设计不同的提示词模板,比如服装、电子产品、家居用品等,每个类别都应该有其独特的描述方式。
-
客户定制:提供一个界面或工具,让品牌商户可以输入或选择特定的词汇或语句,这样可以生成更加个性化的商品描述。
-
标签系统:建立一个标签系统,标签可以是关于产品特性、用户感受、用途场景等,商户可以根据需要选择合适的标签来生成描述。
-
AI辅助:利用AI技术来分析每个品牌商户的历史商品描述,学习其语言模式,从而生成更加贴近商户风格的描述。
结合上述策略,以下是一些可能的结构化提示词设计示例:
品牌特定提示词:
-
描述品牌故事的关键词:例如“创新精神”,“手工艺术”,“可持续发展”等。
-
品牌特有的形容词或短语:例如“青春活力”,“极简主义”,“奢华感”等。
商品类别特定提示词:
-
服装:风格(休闲、正式、运动)、材质(纯棉、羊毛、合成纤维)、设计特点(无袖、防水、可逆穿)等。
-
电子产品:功能(智能互联、节能模式、一键操作)、技术规格(高清屏幕、长续航、快充技术)等。
场景化描述提示词:
-
使用场景:例如“户外探险”,“商务会议”,“家庭聚会”等。
-
用户体验:例如“舒适度极高”,“操作便捷”,“格调提升”等。
个性化定制提示词:
-
商户可选择性短语:提供一系列短语供商户挑选,如“只属于你的”,“打造专属体验”,“量身定制”等。
-
特殊标签:根据季节(春季新品、限量版)、节日(圣诞特惠、双11爆款)等设置标签。
通过以上提示词的设计,商户可以创建出多样化且具有个性特色的商品描述,避免全站商品描述风格过于单一或相似。
例如在设计针对品牌运动服饰商户的结构化提示词时,我们需要考虑几个关键点:品牌独有的风格、目标消费群体的特点、产品的独特卖点(USPs)、市场定位和差异化策略。结构化提示词应当帮助品牌塑造其独特的品牌形象,同时突出其产品的优势和特色。对于不同的电商平台,如淘宝、京东、亚马逊、Shopify、有赞等,我们还需要考虑平台规则、SEO优化和用户行为特征。此外,要确保品牌之间的商品描述有足够的区分度,避免千篇一律。
以上,就是基于LLM的产品实现的所有必要阶段。
本期研习到此结束。
我们下一章再见
大模型岗位需求
大模型时代,企业对人才的需求变了,AIGC相关岗位人才难求,薪资持续走高,AI运营薪资平均值约18457元,AI工程师薪资平均值约37336元,大模型算法薪资平均值约39607元。
掌握大模型技术你还能拥有更多可能性:
• 成为一名全栈大模型工程师,包括Prompt,LangChain,LoRA等技术开发、运营、产品等方向全栈工程;
• 能够拥有模型二次训练和微调能力,带领大家完成智能对话、文生图等热门应用;
• 薪资上浮10%-20%,覆盖更多高薪岗位,这是一个高需求、高待遇的热门方向和领域;
• 更优质的项目可以为未来创新创业提供基石。
可能大家都想学习AI大模型技术,也想通过这项技能真正达到升职加薪,就业或是副业的目的,但是不知道该如何开始学习,因为网上的资料太多太杂乱了,如果不能系统的学习就相当于是白学。为了让大家少走弯路,少碰壁,这里我直接把全套AI技术和大模型入门资料、操作变现玩法都打包整理好,希望能够真正帮助到大家。
-END-
👉AI大模型学习路线汇总👈
大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)
第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;
第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;
第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;
第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;
第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;
第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;
第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。
👉大模型实战案例👈
光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
👉大模型视频和PDF合集👈
观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;
• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;
• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;
• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。
👉获取方式:
😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费
】🆓