让ChatGPT谈自己该不该停止发育(叫停GPT-5！)

3月29日消息
在未来生命研究所官网上
包括图灵奖得主约书亚本吉奥
特斯拉CEO a隆马斯克
苹果公司联合创始人史蒂夫
沃兹尼亚克
Divman高级研究科学家
扎卡里肯顿等在内的数千名
AI领域企业家
学者高管发出了一封提维
暂停大型人工智能研究公开信
这些AI专家们在信中强烈呼吁
所有AI研究室
立刻暂停训练比GPT4
更加强大的AI系统
为期至少6个月
并建议各大企业
机构共同开发一份
适用于AI研发的安全协议
同时信中还提到
各国政府应当在必要的时候介入其中
截至目前
已有1,125人签名支持这封公开信
目前的签名名单专家们在信中指出
恋爱智能系统在和人类竞争的过程中
可能会对社会和人类造成巨大风险
这封信尖锐发出四大问 
1.我们是否应该让机器用宣传
和不时之词充斥我们的信息渠道
2.我们是否应该使所有的工作都自动化
3 我们是否应该发展可能超过
并取代我们的非人类思维
4. 我们是否应该去冒
失去对自身文明控制的风险
专家们在信中补充道
全球的AI实验室
和该领域专家
应该利用这次暂停研究的机会
共同制定和实施一套
全人类共享的安全协议
用于未来更加先进的AI设计和开发
这些协议需要由外部专家
进行严格的审计监督
来确保整个系统经受得住质疑
但此次暂停并不意味着未来完全
停止继续研发人工智能
只是让产业暂时从激进的
危险的AI竞赛中退一步
退到更具潜力的新兴
科技的蓄力准备当中
open AI此前发布的GPT4
是人工智能领域发展历程中的
一大重要里程碑
专家认为
将在今年晚些时候发布的GPT5
将会在可靠性
创造性
和对复杂任务的适应性上更上一层楼
可能带来更多新功能的升级
比如根据用户的特定需求
和输入变量量身定制
提供更加个性化的体验
增强AI以更像人类的方式
理解和响应自然语言的能力
通过提供相关信息和见解
帮助用户做出明智的决策等
GPT5将会在各方面能力上远超GPT4
而这也是数千位AI专家们
发起这封公开信的主要原因
进步伴随着隐患
以下为公开信全文内容
正如广泛的研究
和顶级人工智能实验室所表明的那样
具有人类竞争智能思维的人工智能
系统
可能会对社会和人类构成深刻的风险
正如被广泛认可的阿
希洛马人工智能原则中所说
高级人工智能
可能代表着地球上
生命历史的深刻变化
应该以相应的谨慎态度
和资源进行规划和管理
不幸的是
这种级别的规划和管理并没有发生
尽管最近几个月看到人工智能实验室
陷入了一场失控的竞赛中
大家都在开发和部署
越来越强大的数字思维
包括创造者在内的所有人都无法理解
预测甚至控制这些人工智能的繁衍
当代人工智
能系统在一些日常任务中
已经可以与人类相匹敌
我们需要扪心自问
我们是否应该让机器用宣传和谎言
充斥在我们各种信息渠道
我们是否应该把所有的工作都自动化
包括那些给人带来满足感的工作
我们是否应该开发非人类的大脑
使其最终超过我们的数量
胜过我们的智慧
淘汰我们并取代我们
我们是否
要冒着失去对我们文明控制的风险
此类决策
不得委托给未经选举的技术领导者
这种信心必须有充分的理由
并随著系统潜在影响的大小而增加
open
AI最近关于通用人工智能的声明指出
在某些时候
在开始训练未来系统之前
获得独立审查至关重要
而且必须限制
用于创建新模型的计算增长率
我们无比同意这一观点
而且现在是时候这样做了
因此我们呼吁所有人工智能实验室
立即暂停比GPT4
更强大的人工智能系统的训练
为期至少6个月
这种暂停应该是公开的可验证的
并包括所有关键参与者都应该在列
如果这种暂停不能迅速实施
政府应该介入并制定暂停令
人工智能实验室
和独立专家应利用这次暂停期
共同制定和实施一套
先进的人工智能
设计和开发的共享安全协议
并由独立的外部专家进行严格的审计
和监督
这些协议应该确保遵守他们的系统
是安全的
无可质疑的
当然这一行动并不意味着暂停
人工智能的总体发展
只是从越来越大且
不可预测的黑核模型
的危险竞赛中退后一步
人工智能的研究和开发
应该重新聚焦于
使当今强大的
最先进的系统更加准确
安全可解释透明稳健一致
值得信赖和忠诚
同时人工智能开发
者必须与政策制定者合作
加快开发强大的
人工智能治理系统的速度
至少应该包括以下措施 1
设立专门针对人工智能的新的
且有能力的监管机构
2 监督和跟踪高能力的人工智能系统
和大型计算能力池
3确定AI内容出处和加上水印系统
以帮助用户区分真实和合成的内容
并跟踪模型泄露4
强大的审计和认证生态系统
5.对人工智能造成的伤害承担责任
6. 为人工智能安全技术研究
提供强大的公共资金
7.各机构保证有充足的资源
来应对人工智能可能导致的巨大经济
和政治破坏
人类可以享受
人工智能带来的繁荣未来
在成功创造出强大的AI系统之后
我们现在可以享受一个人工智能之夏
设计这些系统以造福所有人
并为社会提供大量机会
让我们享受一个漫长的人工智能夏季
而不是在毫无准备的情况下
匆忙进入秋天
解语千人呼吁腾讯GPT5
因爱负面影响引关注
GPT4刚出世不久
GPT5已在狂飙而来的路上
但随之而来的
是不断加剧的AI焦虑和潜在隐患
本就抢手的劳动岗位被AI取代
工作机会更加稀缺
加剧了社会焦虑情绪的蔓延
以及AI换脸知
名演员
AI生成低俗图片等负面新闻不断涌现
这些便利和智能
伴随而来的困扰和隐患
已经对人们的日常生活产生了副作用
此次签名
业内大佬叫停GPT5的训练
亦在及时刹车
让愈演愈烈的AI竞赛
回到匀速发展的轨道
但在外媒the Birch看来
这封信不太可能
对当前的人工智能研究环境
产生任何影响
骨骼和微软等
科技公司都急于部署新产品
经常忽视以前公开宣称的
对安全和道德的担忧
我拆GPT
评价我自己该不该停止发育
我认为这个新闻故意暂停GPT的训练
是值得认真思考和探讨的
GPT模型的强大已经得到了广泛认可
在此时
最奉献在没有足够的工作时
这些模型可能会被滥用或误用
对社会和人类造成严重的影响
建立独立专家组织开发
实施和审核
共享安全协议是非常必要的
这样的安全协议需要考虑许多问题
包括
同时
我们需要思考
如何平衡科技进步和社会伦理
所以我们需要确保
这种技术发展的可持续性
和可固性
我认为这个服务是关键
并需要引起我们对人工智能模拟
和安全的更深入的思考和讨论