OpenAI 更新了AGI发展路线图

从最近的ChatGPT的表现来看，通往AGI的路径似乎更清晰了。AGI是人类历史上最重要的技术发明之一，将对社会、经济、政治等各个领域产生深远的影响。

OpenAI是一个致力于创造和推广人工智能（AI）的非营利组织，其目标是实现对人类有益且不受限制地分享给所有人类使用的通用人工智能（AGI）。

OpenAI最近更新了AGI的发展路线，创始人兼CEO Sam Altman提出了一系列关于AGI的规划和建议，包括如何定义和衡量AGI、如何确保AGI与人类价值观和利益相一致、如何促进AGI的公平和透明等。OpenAI希望通过这些措施，引导AGI的发展方向，避免潜在的风险和危害，实现对人类有益的AGI。

AGI能够完成任何人类可以做的任务，它有可能给人类带来巨大的好处，也有可能带来严重的风险和危害。

Tome

让每个人都能享受故事的魅力

ChatGPT为我们展示了对话技术的进步。在这方面有一家创新公司，为我们提供了一个利用人工智能技术创造和分享故事的平台，用户可以与虚拟角色互动、探索不同的世界、甚至创造自己的故事。

其核心技术是一种基于深度学习的生成式对话系统，能够根据用户的输入和情境生成逼真和有趣的对话。

在2023年2月完成了4300万美元的B轮融资，其中大部分资金将用于扩大研发团队和提升技术水平。该公司目前拥有约50名员工，其中一半以上是工程师和科学家。

这是一个充满活力和想象力的创新企业，在人工智能技术和故事创作领域展现了卓越的能力和影响力。

真实感照片生成

可能带来严重的风险和危害

ChilloutMix

本模型原则上禁止用于训练基于明星、公众人物肖像的风格模型训练，因为这会带来争议，对AI社区的发展造成不良的负面影响。如各位一定要违反以上声明训练相关模型并公开发布，请在您的发布说明中删除与本模型有关的一切描述。感谢各位使用者的支持与理解。

尤其是AI生成图片和换脸等技术是这方面的代表。虽然它们有不少正面用途，比如电影制作、教育、医疗、艺术等。但是，它们也带来了一些危害和风险，比如：

- 侵犯个人隐私和肖像权。有些不法分子利用AI换脸技术，在未经他人同意的情况下，将受害者的照片应用到xxx视频或其他不良内容中，造成严重的心理伤害和社会影响。

- 诱发网络诈骗和欺诈。有些犯罪团伙利用AI生成的图片或视频，模仿他人的身份或声音，进行虚假交易、勒索、敲诈等违法活动。

- 威胁信息安全和信任。有些黑客利用AI生成的图片或视频，欺骗人脸识别系统、密码锁等安全设备，获取敏感数据或资源。

同时，由于AI生成的图片或视频越来越难以辨别真伪，也可能导致公众对信息来源和真相产生怀疑和不信任。

你对这些危害和风险有什么看法？

你认为应该如何防范和规制这些技术呢？

Sam Altman为我们提供了几点建议：

 - 定义和衡量AGI

我们需要有一个清晰和可靠的方法来判断一个系统是否达到了AGI的水平，以及如何评估其性能和行为。

 - 确保AGI与人类价值观和利益相一致

我们需要确保AGI能够理解和尊重人类的多样性、自由、尊严等价值观，以及避免损害人类的生存、幸福、发展等利益。

 - 促进AGI的公平和透明

我们需要确保AGI能够公平地服务于所有人类，而不是被少数人或组织所控制或利用，以及提高AGI的可解释性、可审计性、可监督性等特性。

 - 应对AGI对社会和经济的影响

我们需要预测并应对AGI可能带来的社会变革、就业冲击、伦理挑战等问题，以及建立相应的政策和法规来保护人类社会。

另外，AGI将对许多职业产生巨大的冲击和挑战，可能导致大量工作被取代或改变。因此，OpenAI建议社会应该提前做好准备，包括提高教育水平、增加就业机会、改善福利制度等。

同时，OpenAI也呼吁政府、企业、学术界等各方合作，制定合理的政策和法规，保护工作者的权益和尊严。未来职业

虽然ChatGPT给我们打开了通往AGI的大门，但是ChatGPT并不开源，最近Meta发布了一个大模型：LLaMA

由Meta AI研究团队开发的大型语言模型。它有以下几个技术特点：
- 自回归变换器作为模型架构，可以生成高质量的文本。
- 自适应输入和输出嵌入，可以有效地处理大规模的词汇表。
- 分块注意力机制，可以在有限的内存和计算资源下处理长序列。
- 混合精度训练和激活检查点技术，可以提高训练速度和效率。

这个项目是一个先进的语言模型，它在多个自然语言处理任务上都取得了优异的结果。它也是一个开放和高效的基础语言模型，它可以帮助其他研究者探索语言模型的潜力和挑战。

我们离开源的ChatGPT不远了。

无界社区是一个跨学科的创新组织，由设计师和工程师组成的开放式线上协作组织。我们正在寻找对跨学科内容感兴趣、敢于尝试新方法并乐于分享想法的人士。如果你准备好加入一个开放、协作、有思想并能够凸显你独特性格的大家庭，那么请来无界社区吧！