ChatGPT是未来吗？

ChatGPT自2022年11月份发布以来，获得了很多关注，最近GPT-4、文心一言陆续发布，也让大家有了更多的感受。这次再重新审视一下ChatGPT，谈谈未来到底是怎样的。

先拿出来ChatGPT官网对自己的一些说明：

ChatGPT面临的主要挑战之一是它预测的可行回复看起来像是合理的文本，但并不总是正确的。这意味着ChatGPT可能不会始终给您准确或可靠的信息，甚至可能会自相矛盾。

例如，您可能会要求ChatGPT完成某些任务（例如发送电子邮件或打印当前目录），它可能会回复好像具有某种外部操作能力一样。但是，ChatGPT只是一个文本输入输出系统，没有外部能力。它无法访问您的电子邮件帐户、文件或任何其他资源，它只是模仿人类交谈伙伴的语言模式，但没有真正理解上下文或后果。

同样，您可能会要求ChatGPT查找某些事实或数据（例如一个国家的首都或天气预报），它可能会用貌似正确但实际不正确的答案作出回应。ChatGPT没有访问任何外部信息或知识来源的权限，它可能依靠自己的记忆或猜测来生成回复。

它还可能混淆或混合不同的主题或领域，或随着时间的推移重复或自相矛盾。因此，您应始终通过其他来源验证ChatGPT提供的任何信息或声明，并且不要依赖它做出任何关键或敏感的决策或行动。ChatGPT不能替代人类判断、专业知识或责任。

ChatGPT是一种令人着迷和创新的工具，可以帮助您探索自然语言生成和交互的可能性和挑战。然而，您也应该负责任地和现实地使用它，并记住它不是人类、机器或魔杖，而是一个复杂和富有创造性的语言模型。

PS：这段话是在和ChatGPT聊天过程中，让它进行实时翻译的，粗略地对比了谷歌翻译，个人觉得它翻译得比谷歌翻译得好。

附录：Google翻译

ChatGPT 的主要挑战之一是它预测可行的响应，这些响应看起来像是合理的文本，但可能并不总是正确的。 这意味着 ChatGPT 可能不会始终为您提供准确或可靠的信息，甚至可能自相矛盾。

例如，您可能要求 ChatGPT 完成某些任务（例如发送电子邮件或打印当前目录），它可能会做出响应，就好像它具有某种外部操作能力一样。然而，ChatGPT 只是一个文本输入、文本输出系统，没有外部功能。 它无法访问您的电子邮件帐户、您的文件或它自己模型之外的任何其他资源。 它只是简单地模仿人类对话伙伴的语言模式，但对上下文或后果没有任何真正的理解。

同样，您可能会要求 ChatGPT 查找一些事实或数据（例如，一个国家的首都或天气预报），它可能会以看似合理但不正确的答案作为回应。ChatGPT 无法访问任何外部信息或知识来源，它可能依靠自己的记忆或猜测来生成响应。

它还可能混淆或混淆不同的主题或领域，或者随着时间的推移重复或自相矛盾。因此，您应始终核实 ChatGPT 与其他来源提供的任何信息或声明，不要依赖它做出任何关键或敏感的决定或行动。ChatGPT 不能替代人类的判断、专业知识或责任。

ChatGPT 是一款引人入胜的创新工具，可以帮助您探索自然语言生成和交互的可能性和挑战。但是，你也应该负责任地、实事求是地使用它，记住它不是人、机器或魔杖，而是一个复杂的、创造性的语言模型。

附录：原文

One of the main challenges of ChatGPT is that it predicts feasible responses, which look like reasonable text but may not always be true. This means that ChatGPT may not always give you accurate or reliable information, and may even contradict itself.

For example, you may ask ChatGPT to complete some task (e.g. send an email or print the current directory) and it may respond as though it has some external operating power. However, ChatGPT is only a text-in, text-out system and has no external capabilities. It cannot access your email account, your files, or any other resources outside of its own model. It is simply mimicking the language patterns of a human conversational partner, but without any real understanding of the context or the consequences.

Similarly, you may ask ChatGPT to look up some facts or data (e.g. the capital of a country or the weather forecast) and it may respond with plausible but incorrect answers. ChatGPT does not have access to any external sources of information or knowledge, and it may rely on its own memory or guesswork to generate responses.

It may also confuse or mix up different topics or domains, or repeat or contradict itself over time. Therefore, you should always verify any information or claims that ChatGPT makes with other sources, and do not rely on it for any critical or sensitive decisions or actions. ChatGPT is not a substitute for human judgment, expertise, or responsibility.

ChatGPT is a fascinating and innovative tool that can help you explore the possibilities and challenges of natural language generation and interaction. However, you should also use it responsibly and realistically, and remember that it is not a human, a machine, or a magic wand, but a complex and creative language model.

ChatGPT是如何运作的？

ChatGPT 是根据 GPT-3.5 进行微调的，GPT-3.5 是一种经过训练可生成文本的语言模型。ChatGPT 通过使用人类反馈强化学习 (RLHF) 针对对话进行了优化——一种使用人类演示和偏好来引导模型朝着期望方向发展的方法。

为什么ChatGPT 看起来如此真实和栩栩如生？

这些模型是根据人类在互联网上的大量数据（包括对话）进行训练的，因此它提供的回复可能看起来像人类。重要的是要记住，这是系统设计的直接结果（即最大化输出与训练模型的数据集之间的相似性），并且此类输出有时可能不准确、不真实，并且有时会产生误导。

我可以相信ChatGPT 说的是实话吗？

ChatGPT 没有连接到互联网，它偶尔会产生错误的答案。它对 2021 年之后的世界和事件的了解有限，也可能偶尔会产生有害的指令或有偏见的内容。

谁可以查看我的对话？

作为我们对安全和负责任的 AI 承诺的一部分，我们审查对话以改进我们的系统并确保内容符合我们的政策和安全要求。

会用我的对话来训练吗？

是的。我们的 AI 训练师可能会审查您的对话，以改进我们的系统。

开放讨论

说实话，我对ChatGPT的产生并没有那么乐观，说是移动互联网下一代的技术革命，我觉得有些夸大。当然类似的话之前区块链、元宇宙都说过，这些都有待时间去验证。

我觉得ChatGPT的产生会倒逼大家来思考问题的本质。以前可能使用华丽的辞藻，炫丽的图片来使得汇报看起来是这么回事，这个ChatGPT能做得更好，其实产生不了什么价值。真正产生价值的是深入的洞察和思考，把握问题的本质，以及行动。

生产效率提升，当然是需要的，但这个事情其实一直在发生，比如软件的产生，把生产效率不知提升了多少倍。很多办公室人员的工作，不需要什么高级的AI，软件能轻松地替代，但远不可能这么快就更新，会涉及很多方面。类似的，AI提升效率，也会是潜水静流，一开始没有那么多的付费意愿，很多人也不缺时间，不然抖音也不会这么火。另一方面，工具类的东西很多时候都是免费的形式，行业搅局者大有人在，如果不是有生态这种壁垒，复制并没有那么难。

虽然我们和ChatGPT有差距，我相信半年一年很容易追上来，只要产生了足够的商业利益，相信资本的敏感度。