人类的极限?GPT-5发布或引发全球性讨论和担忧!!!
相关消息:GPT5 即将问世,但在你过度兴奋之前,想象与你聊天的机器人比你聪明的未来,让我告诉你一些可能会让你惊讶的事情。
关注公众号:AI意识觉醒 可以领取10天左右的 GPT PLUS
GPT5 不会一次性全部发布,甚至离这个目标还有很远。相反,它将分阶段逐步发布,每个新版本都是在前一个版本的基础上构建的。为什么会这样?有几个原因,我将为你分解。
首先,让我们谈谈目前对 GPT5 的了解,OpenAI 的总裁兼联合创始人 Greg Brockman 最近在推特上谈到了公司发布 GPT5 的计划,Brockman 在他的推文中提出了几个有趣的观点,但对我们来说最重要的一个是,GPT5 将分阶段发布,Brockman 解释说,通过部署给定训练过程的后续检查点,轻松地创建一系列逐步改进的人工智能是可能的。
这意味着 OpenAI 将分阶段发布 GPT5,每个阶段都是在前一个阶段的基础上改进的。这有点像看着一个幼儿长大,你不会一天早上醒来发现他们突然变成了成年人,他们会逐渐成长、学习和发展,逐渐变得越来越有能力。
OpenAI 将如何创建这些逐步改进的人工智能呢?
假设他们正在研究 GPT5,并已经用大量来自互联网的文本数据对其进行了训练。在训练过程的某个时刻,他们可能决定取一个检查点,即模型参数的当前值的快照,这基本上类似于对 AI 对数据的当前理解进行拍照。然后他们会继续对模型进行更多的数据训练,或者可能是重复使用同样的数据,直到它得到改进,达到他们想要进行另一个检查点的程度。这个新的检查点将具有更新的参数,反映出模型对数据理解的改进,依此类推,直到该模型被认为准备好发布。
你可能会想,但等一下,GPT4 不是已经在互联网上的所有数据上进行了训练,它怎么会比这个更聪明呢?虽然 GPT4 已经在大量数据集上进行了训练,但仍然有大量数据可以让 OpenAI 继续进行训练。实际上,他们估计仍有一个数量级的数据可供使用,比他们已经使用的数据多10倍。而且,就数据而言,质量和数量同样重要,OpenAI 可以购买专有数据集,涉及数学、科学或编码等专业主题,这将为 GPT5 提供更多高质量的数据。
但这里真正有趣的是,OpenAI 不仅可以依赖现有数据集来改进 GPT5,还可以利用你的提示回应、上传的图像和生成的图像来使他们的人工智能变得更加智能。我们用自己好奇的思维和看似无伤大雅的互动来塑造人工智能的未来,这是一种疯狂的想法,每次与 ChatGPT 的聊天、每个问题、每个提示,都像在提供数据给大模型,为下一代 GPT 提供强大驱动力。
围绕数据隐私和使用个人数据的伦理影响存在一些担忧,尽管这是一个重要问题,但我有点厌倦不断重申关于安全性和隐私性的同样观点,所以让我们继续。
现在我们对 GPT5 将如何逐步发布以及它将如何进行训练有了更好的理解,让我们来谈谈这种新人工智能可能产生的一些潜在影响。首先,重要的是要注意,GPT5 不会是解决我们所有问题的神奇解决方案,它仍然会有局限性和缺点,就像其他任何人工智能一样。例如,虽然 GPT5 将能够生成极为复杂和细致的文本,但它可能仍然会在需要高度可靠性或准确性的任务上遇到困难,正如 OpenAI 的首席科学家 Ilyasutskover 所指出的那样,可靠性是 GPT5 的一个潜在弱点,可能限制其在现实世界中的影响。
著名的 AGI 研究论文《AGI 的火花》的作者 Sebastian Bubek 提供了一个很好的例子,他将 GPT4 的智能增长比作一只独角兽,使用了一张图表,显示了随着训练的进行,GPT4 如何提高其性能,你可以看到 GPT4 和 Charge APT 之间的差距,以及随着不断训练 Charge APT 的独角兽如何随着时间的推移而提高。
Brockman 在他的推文中提到了一点非常有趣的事情,即他提到了存在风险。他没有轻视这些风险,他说,解决从当下问题到更长期的存在问题的整个风险谱是很重要的。"存在风险"意味着威胁到整个人类存在的问题,这是一个重大问题,AI 研究人员正在认真对待。最近的调查显示,50%的AI 研究人员认为由于我们无法控制人工智能,人类灭绝的可能性达到 10% 或更大,这是一个相当可怕的想法,我们不能忽视。在推文的最后,Brockman 提到了整个情感范围,乐观和关注,这种情感不仅是对 AI 的开发者而言,也是对 OpenAI 内部的人们而言。
即使在 OpenAI 内部,人们也对人工智能潜在风险和危险感到担忧。这就是为什么解决这些风险并确保我们有正确的安全措施来防止任何负面结果非常重要。
那么我们什么时候能够期待 GPT5 的发布呢?根据背后的稳定扩散人士的说法,未来 6 到 9 个月内没有人会发布比 GPT4 更大的运行。为什么?因为它需要新的 H100S 来扩展,并且安装、烧录和优化这些设备需要时间。Brockman 在他的推文中还提到,在模型训练之后,安全测试可能会有一些滞后,然后才会发布。这意味着在 GPT5 或 4.5 发布给公众之前可能需要一些时间。
根据这些因素,我的个人预测是大约 6 到 8 个月内我们可能会看到 GPT4.5 的发布,然而这只是推测,很难精确预测它会在什么时候发布。我们所知道的是,OpenAI 正花时间确保 GPT5 在发布给公众之前是尽可能安全可靠的。
GPT5 的发布可能会逐步进行,通过部署给定训练过程的后续检查点来创建一系列逐步改进的 AI 模型。OpenAI 有大量可用的数据,包括高质量的专有数据集和用户生成的数据。他们还采取措施确保 GPT5 是安全可靠的,并采取了一些防范措施来防止任何负面后果。虽然很难准确预测 GPT5 何时发布,但很明显,OpenAI 正花时间确保一切就绪。
我想我们可能还要等一段时间才能看到 GPT5 掌控世界,至少我们有时间学习一些生存技能,以防发生人工智能启示录,在等待 GPT5 发布的过程中,思考它可能对我们世界产生的潜在影响是很有趣的。有些人可能会想象一个未来,机器人接管工作岗位,使人类变得多余,但也有其他可能性需要考虑。
例如,随着 GPT5 可能带来的自然语言处理的进步,我们可能最终能够弥合不同语言和文化之间的鸿沟。一个很酷的用法是作为实时翻译工具,这样,如果你说中文,对方会听到他们语言中的内容,反之亦然。这可能为全球理解和合作带来无限可能性。
GPT-5 的发布将是一个逐步过程,而不是一次性发布,每个新版本都会在前一个版本的基础上进行改进。这种方法旨在确保 GPT-5 的安全性和可靠性,并在训练过程中逐渐提高其智能水平。这个方法还允许 OpenAI 利用大量的可用数据,包括互联网上的文本数据、用户生成的数据以及专有数据集,以不断改进 GPT-5 的性能。