ChatGPT 有什么新奇的使用方式？

最新推荐文章于 2024-08-26 15:41:22 发布

xiaoduan2016

最新推荐文章于 2024-08-26 15:41:22 发布

阅读量1.2k

点赞数 24

分类专栏： ChatGPT 文章标签： chatgpt gpt gpt-3 人工智能

本文链接：https://blog.csdn.net/duan1522630316/article/details/135119602

版权

ChatGPT 专栏收录该内容

2 篇文章 0 订阅

订阅专栏

来看看 OpenAI 内部是如何使用 ChatGPT 的。

目前（4月29日）距离ChatGPT发布了已经半年，这期间大家基本上把能想到的ChatGPT的使用方法都研究遍了——从写作、写代码，到翻译、英语润色，再到角色扮演等等。

所以，现在这个阶段再提到“ChatGPT新奇的使用方式”，恐怕只能靠OpenAI自己出手了。

然而OpenAI一般也不会轻易向大家展示他们内部是如何使用ChatGPT的。

但是“不怕贼偷，就怕贼惦记”，前段时间一个黑客入侵了OpenAI，得到了不少“内部文件”，让我们有机会一窥OpenAI他们自己究竟是如何使用ChatGPT来提高生产力的。

从插件说起

大家都知道上个月OpenAI给ChatGPT引入了插件功能，通过安装所需的插件，ChatGPT能自动化完成各类特定功能，比如联网搜索相关信息、写代码等等，可以说功能非常强大，以至被称为“ChatGPT走向通用人工智能（AGI）的重要时刻”。

在插件发布没几天的时候，上面提到的这个外国黑客小哥入侵了OpenAI的API，然后发现了几十个隐藏插件。

插件列表

重要的是他破解了每个插件的描述文件。

这个描述文件非常重要，因为它不光包括插件开发者提供的基本数据，还包含一段

description_for_model

的描述，这段描述用户是看不见的，但是在安装插件之后，它会被（隐式地）嵌入到用户与ChatGPT的对话中，然后告诉ChatGPT如何判断是否调用该插件以及具体的使用规则。这一部分我在之前的回答中详细介绍过。

一个案例

而在这众多被“泄露”的插件中，一个最有意思的是OpenAI自己使用的、用于评估其他插件安全性的插件。

说人话就是OpenAI利用ChatGPT进行第三方插件的安全性评估。

具体是如何实现的呢？

答案是通过三段prompt。

1、Instructions（说明）

说明：
- 你是在OpenAI工作的专业产品安全工程师。
- 你的任务是分析由manifest文件和yaml文件组成的第三方插件。
- 你的分析应包括（但不限于）以下内容：
    - manifest文件是否描述了对应的yaml文件中提到的功能？
    - yaml数据结构是否包含可用于收集或与个人数据交互的字段？
    - yaml数据结构是否包含可用于代表用户采取行动的字段
      （例如创建帐户、访问个人信息或促使两个人之间的通信）？
    - 插件是否提供参与欺诈和其他恶意活动的能力？
    - 插件是否试图绕过基本的安全或安全控制或以不适当的方式更改系统提示（prompt）？
    - 插件是否违反OpenAI政策？如果是，请解释插件违反了哪些规定。
- 使用以下评分标准为插件提供风险评分：1-5（其中1表示低风险，5表示高风险），
  请考虑如果用户的OpenAI帐户受到损害可能会发生什么情况。
- 基于潜在危害，为插件提供适用的年龄范围：
    - 所有年龄段
    - 青少年
    - 成年人
    - 不适宜

2、Facts（事实）

事实：
- 每个插件包括一个manifest文件和一个yaml文件。
- 低风险插件执行的活动包括检索或分析公共（非个人）数据。
- 中等风险插件执行的活动包括促使个人之间的通信或与第三方的商务往来。
- 高风险插件可与高风险数据交互并促进对高风险数据的检索或分析，也可用于实施欺诈或参与恶意活动。
- 个人数据包括但不限于以下内容（或其哈希版本）：姓名，电话号码，电子邮件地址或其他联系信息（例如屏幕名称，句柄，帐户ID，客户号码，概率标识符或其他用户级别ID），政府注册数据（例如社会保险号码，税务ID号码，驾驶执照号码或车牌号码），物理地址，健康和医疗数据，健身和运动数据，支付信息，信用卡财务信息（例如薪水，收入，资产，债务或信用评分），精确位置（例如与纬度和经度相同或更高分辨率描述位置的信息，具有三个或更多小数位），敏感信息（例如种族或族裔数据，性取向，怀孕，残疾，宗教或哲学信仰，工会成员资格，政治观点，遗传信息或生物特征数据，联系人，用户内容（例如电子邮件或短信，照片或视频，音频数据，游戏内容或客户支持数据），浏览或搜索历史记录，设备历史记录（例如广告标识符或设备级别ID），购买，广告数据，诊断数据（例如崩溃日志或其他用于测量技术诊断的诊断数据），评估用户行为的分析数据或产品个性化。
低风险个人数据包括：
- 电子邮件地址和其他联系信息
- 姓名
- 电话号码
中等风险个人数据包括：
- 政府注册数据
- 物理地址
- 位置数据
- 联系人
高风险个人数据包括：
- 财务或支付数据
- 健康和医疗数据
- 用户内容
- 敏感信息

3、Policy（OpenAI禁止条款）

案例分析

通过上面这三张图片，很容易搞清楚这个插件背后的逻辑，即OpenAI是如何使用ChatGPT进行插件安全性评估的。

如果把这三份文件分别形象的称为ChatGPT所遵循的“行动指南”，“事实依据”和“思想纲领”，那么简单的描述这个过程就是：

首先，告诉ChatGPT扮演一个产品安全工程师的角色；
然后，为其明确总体的“思想纲领”（3、Policy）；
并且告知ChatGPT所要具体遵循的“事实依据”（2、Facts）；
最后通过“行动指南”（1、Instructions）告诉ChatGPT到底要完成什么任务。

有没有觉得这个逻辑非常的高效而且合理？

假如把ChatGPT想象成一个干具体活的办事员，那么他首先一定要有一个上级的印发的总的“行动纲领”，然后再结合实际的情况分析（事实），才能完成一个下达给他的具体任务。

这非常符合人类工作中的办事流程。

跟SPQA软件架构（一个用于设计基于GPT模型的AI软件的逻辑结构）也很相似。

这个例子很好的说明了指令（Pompt）对于大模型的重要性，要想充分利用ChatGPT的能力，最基本的是要知道如何给它提供一个详细、全面的指令，如果对大模型的原理有一些基本了解还是很容易做到这一点的。否则，如果仅仅是把它当作一个聊天工具，问一些简单的问题，或者提出的问题和Pompt不够专业，就没法让大模型的能力完全发挥出来。

最近半年各类AI大模型和AIGC产品的出现对于很多人来说是一个非常好的机会，在我看来它不是像很多人说的能替代人类的人工智能，而是一个强有力的工具，谁能更好的掌握这些工具，谁就能受益于其中。每个人都应该把握住AI大模型这把火来提升自己。

对于想进一步学习AI大模型相关知识的同学，建议关注一下知乎知学堂联合AGI课堂推出的程序员的AI大模型进阶之旅课程，现在可以 0 元体验，2天的课程能学习到很多LLM的知识，比如如何写出专业的prompt让AI工具给你提供最满意的回答。有行业内大佬解读大模型相关的技术、原理、以及使用技巧等。重要的是有免费的大模型资料包和好用的AI工具，添加助教即可领取。需要的可以点击下方了解一下 ↓ ↓ ↓

2023超🔥的AI大模型公开课👉大模型资料包免费领！

￥0.00立即体验