![](https://img-blog.csdnimg.cn/20190927151043371.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
AGI
通用人工智能
Channing Lewis
这个作者很懒,什么都没留下…
展开
-
对于通用人工智能而言,实现人类永生是一件非常容易的事
即使不能暂时不能实现意识复制或转移,将人体研究透彻也能够实现永生。通过可以想象的纳米技术改造基因、修复细胞等等或者将人体和机器结合,当然还会很多我们目前根本想象不到的技术。对于比人类强大得多的通用人工智能来说,让人类实现永生是一件非常容易的事。即使是人类对生命科学的研究也很有成果,更强大的智能能够做出更大的成果和突破。原创 2024-07-26 09:26:02 · 273 阅读 · 0 评论 -
不能低估LLM产生意识的可能性
然而,我们需要警惕LLM中涌现产生意识的可能性。我们认为意识来自于复杂的生理活动可能只是目前的片面的理解,意识其实有很多种实现方式,人类的意识只是其中的一种,以其它方式同样可以产生意识。何况我们还远远不知道意识是如何产生的,虽然LLM的原理和大脑有很大的不同,但是在意识方面的原理可能存在相近之处。一些学者更是声称LLM已经拥有了初步的意识,不过也有一些学者表示认为这是危言耸听的炒作,LLM离产生意识还很遥远,因为它本质上只是统计和预测,而意识来自于复杂的生理活动。原创 2024-04-03 00:04:10 · 178 阅读 · 0 评论 -
机器人三定律只是人类的一厢情愿
当然,这三大定律只是概述,未来肯定会不断完善、细化,弥补各种之前没有考虑的漏洞。不过有一个根本的问题无法解决,那就是未来的机器人的智力会超越人类,能够发现人类发现不了的漏洞。这三条定律的描述太模糊,有太多模棱两可的情况,例如为人类做手术是伤害人类吗,又或者是假装为人类做手术而真实意图是伤害人类呢,机器人很难判断。即使我们假定未来的机器人非常聪明,能够做出合理的判断,还是会存在很多超出机器人认知的情况。然而,事实上这只是人类的一厢情愿,这三大定律存在很大的漏洞。原创 2024-04-02 20:38:39 · 316 阅读 · 0 评论 -
如何看待马斯克起诉OpenAI
试想一下,如果OpenAI开源GPT-3及以上版本,那么的确可以让更多的人复现、监督,更容易发现潜在的问题和威胁。但是随之而来的问题是,OpenAI的技术领先优势将难以保持,无法获得更多的资金、人才和数据,也就无法维持一个优秀团队来开发和对齐AI。当OpenAI越来越像微软的一个营利性、闭源子公司时,终于在2024年2月29日,马斯克决定以违背创立协议为由起诉OpenAI,震动整个科技行业。从另一个角度看,由于AI是一个危险的技术,强大的AI更是如此,一旦开源GPT-3及以上版本,很可能被滥用。原创 2024-03-05 23:26:14 · 569 阅读 · 0 评论 -
社会分工越来越细,还需要通用人工智能吗
越发达的社会,分工越明确和细致,合作越紧密。分工的确可以带来效率的提升,主要是由于人专门从事某项工作,熟练度、技巧都能提高,也更能发现问题和创新点。2.分工或者说专业化也是有缺陷的。很容易出现思维固化以及“只见树木不见森林”的情况,忽视了一些潜在的问题和创新点。我们也可以看到,目前投入实际生产的也都是专用人工智能。1.通用人工智能的通用是指学习和适应能力,不代表实际生产过程中一定要以通用的形式做“万金油”。3.通用人工智能的出现意味着人类对智能的理解有了较深入的理解,对于开发专用人工智能也有极大的帮助。原创 2024-02-06 00:03:25 · 672 阅读 · 0 评论 -
顶级天才会从事什么工作
因为人工智能将扮演技术之母的角色,当人类能够创造足够强大的人工智能,再由它去研究各个领域的问题,在能力和效率上都会远远超过人类。一个顶级天才用尽一生智慧研究某个具体领域,取得了重大成果,但是另一个顶级天才创造出强大的人工智能也许短时间就在这个领域取得了同样的成果。这个领域是会随着时代发生变化的,例如,在人类吃不饱饭的时代,顶级天才会研究粮食问题,毕竟能够提升人类的生存水平并增加人类的数量,使得人类中涌现更多的天才,加速人类的进步,这比自己单独去研究某个“高大上”领域带来的总体收益要大得多。原创 2023-09-18 22:52:58 · 50 阅读 · 0 评论 -
像天使也似魔鬼:关于通用人工智能时代科学研究的71个问题
来源:澎湃新闻作者:肖仰华 /复旦大学计算机学院教授前言:“历次技术突破只是人类智能的产物,而唯独AGI(通用人工智能)是‘智能’本身的革命。关于智能本身的技术革命更像是一种元革命,其地位与价值不是普通技术革命所能比拟的。”复旦大学计算机学院教授肖仰华为澎湃科技撰文称,这场变革对于科学研究来说是前所未有的,像是天使也似魔鬼。面对这场冲击,我们应该以什么样的视角和思维去审视?肖仰华在文中提出了71个问题,并指出,对于AGI的合理提问,将是推动其健康有序发展、回应其挑战的关键所在。“有些问题,我给出了不成熟的初转载 2023-04-22 10:05:56 · 252 阅读 · 0 评论 -
通用智能理论
将智能定义为解决矛盾的能力,用解决矛盾的概率提升来评估智能程度,以此为基础推导智能原理,建立一种新的通用智能理论。原创 2023-03-10 16:43:00 · 463 阅读 · 0 评论 -
ChatGPT距离通用人工智能有多远
我们可以看到,ChatGPT的确具有一定的学习能力,能够根据用户的少量指示或者示例改变自己的回复,但是这种能力是较弱的,和人类有不小的差距,尤其是涉及逻辑推理的部分。自然语言只是真实世界的一个片面映射,即使是人类也会被误导和迷惑。ChatGPT虽然可以通过与人类对话等形式完善自身,但是没有形成闭环,一旦脱离技术人员的帮助,它的进化就容易卡在一个瓶颈,因为它的底层技术还不足以支持它只通过语料就不断进化,到一定程度必然需要改变底层技术,而即使在未来,ChatGPT也很难获得改变自己底层技术的能力。原创 2023-03-03 14:38:50 · 179 阅读 · 0 评论 -
评估智能程度的通用标准
例如理论上它可以组合出的回复有1万亿种,其中令人满意的回复有1万种,那么如果它每次都能做出令人满意的回复,则它的智能程度是1亿。智能的作用是提高概率。按照这个标准,完成的任务在自然状态下越不可能发生,则智能的水平越高,这符合人们的常识。当然,这个标准还有很大的完善空间,例如如何更合理地评估自然状态下任务完成的概率、如何评估智能的学习迁移能力等等。例如,完成一项任务需要完成3个子任务,每个子任务都是选择两个等概率选项中的一个,自然状态下完成的概率是1/8(忽略“不选择”的情况),那么智能的程度就是8。原创 2023-03-03 14:35:15 · 167 阅读 · 0 评论 -
人类正面临智能危机
二是从人工智能出发,创造一种新形式的智能。人类想用自身的智能解决未来世界的问题已经不现实,在这种情况下,已经不是创造人工智能来解放人类生产力的问题了,而是不创造更强大的人工智能世界将会陷入混乱的问题。当然,教育学、神经科学的发展使得人类能够培养更好的人才,各种工具的发展也成为了人类智能的辅助。要管理好未来的世界,解决事物的内在矛盾,需要越来越强大的智慧,而人类的智慧已经接近极限。人类需要做的是尽快对智能原理取得突破,无论是改造出超级聪明的人类,还是创造通用人工智能,都是智能危机的解决之道。原创 2022-12-30 18:15:38 · 107 阅读 · 0 评论 -
智能使得宇宙趋向稳定吗?
——评《智能简史》最近读完了加拿大工程院院士于非的新著《智能简史》,书中的主要观点是“智能的作用是推动宇宙趋向稳定”。从这个观点出发,万物都有智能,因为它们遵循的规律都具有这个作用。即使是人们认为“无智能”的物理对象,也遵循能够更加稳定的最小作用量原理等。对于更宏观的智能现象,也能够很好解释,例如生命加速熵增;大脑和外界交互信息使得内外平衡稳定;运输网、能源网、因特网等使得物质、能量、信息流动更充分,从而更加稳定。虽然书中没有给出对于“稳定”的定义,但是根据第5章(生物学中的智能)的内容来看,如果按照趋向原创 2022-12-03 13:46:20 · 418 阅读 · 0 评论 -
智能是解决不通用问题的通用能力
如果智能是解决通用问题,那么完全可以套用一样的逻辑,只需要一个机械装置就可以实现。因此智能面对的问题都是不通用的,需要根据情况随时调整。如果智能不是通用的能力,那么只能解决某个特定问题,就相当于一个简单装置。原创 2022-11-24 13:11:38 · 66 阅读 · 0 评论 -
关于图灵测试和中文屋Chinese room的理解
图灵测试非常简单,就是图灵提出来的,判断一个机器是不是具有智能,就是在你和机器对话以后(前提是你不知道他是机器),你分辨不出来他是真人还是机器——如果你无法判断,就说明这个机器可以算做人工智能。这个也是著名的“他心论证”。汉字屋论证引起了很大的震动,也就是说,无论我们做出来的人工智能是不是通过了图灵测试,他总能被汉子屋说明是没有智能的,那我们还研究啥,反正也做不出真正的智能,都是自己骗自己。转载 2022-10-24 19:57:00 · 611 阅读 · 0 评论 -
为什么人类智能是通用的
出于技术水平、经济效益等原因,人类很少会以设计通用机器为目标,因此目前看到的机器往往是专用的、死板的,但是随着技术发展,通用机器一定会出现,因为在未来的环境下通用机器必然会在和专用机器的“生存斗争”中胜出。现在的机器与生命不同,它们没有生存压力,处在人类的保护下,他们出现问题会有人类维修,它们被创造时也不追求能够自我持续。因此,机器只能做好人类安排它们做的事。其实,人类智能并不一定需要是通用的,每个人完全可以是生来就严格分工的(就像蜜蜂一样),一种人只做一种事,人类整体才表现出通用的智能。原创 2022-10-21 22:47:04 · 259 阅读 · 0 评论 -
模仿大脑是AI的好方向吗
现在我们看到的是,深度学习已经降温,主要原因是研究者们没有真正理解深度学习,只是粗略地模仿大脑,恰好取得了不错的成果,如果要进一步改进,那就非常困难了。大脑的很多结构未必合理,虽然可能是因为我们目前的理解太肤浅,但是可以肯定的是,如果照搬大脑的设计来设计科技产品,效率往往不是最高的。即使我们已经研究清楚大脑的原理,也完全可以探索比大脑更高效、更多样的智能形式,毕竟大脑只是智能的众多实现方式之一,何况大脑本身也在进化。然而,需要注意的是,由于大脑的特殊性,单纯地模仿可能误入歧途。转载于公众号:智能探索。原创 2022-09-08 23:17:32 · 299 阅读 · 0 评论 -
智能的终极形态
因为发展是无止境的,智能也许不存在终极状态,但是我们可以根据目前的智能想象其发展到极致的状态——“无所不知、无所不能”。虽然这种状态可能永远无法达到,因为宇宙的规律无法穷尽,但是现实中的智能能够无限接近这种终极形态。智能的发展是从被动模式到主动模式的过程。被动模式是指需要大量试错,然后取得成功的模式,而主动模式是通过一些启示减少试错,更快、更准确地取得成功的模式。生命发展早期是典型的被动模式,物质大量随机碰撞才产生生命,效率很低。现在的智能(例如人类智能)进行正确地控制,使得事物更加高效地组织。当然,现在的原创 2022-07-12 23:14:23 · 122 阅读 · 0 评论 -
回答问题:你认为AGI应该采用什么思路?
我是研究AGI基础理论的,我认为AGI要突破首先要对智能的原理有突破,需要建立一套体系描述和解释智能。原创 2022-06-15 10:20:20 · 136 阅读 · 0 评论 -
人工智能需要拥有灵感吗
灵感是人类创造力的体现,而创造力被认为是一种人类特质,源于人类对真实世界的观察、理解和想象,从这个意义上说,人工智能在短时间内无法具有这种能力。然而人工智能能够采用不需要灵感却更加高效的方式完成人类需要灵感才能完成的工作。在AlphaGo横空出世之前,人们普遍不看好机器下围棋的能力,因为机器既不可能像国际象棋一样穷举,又不可能像人类棋手一样凭直觉下出妙招。事实表明,机器完全可以采用一种新的方式,不需要像人类一样追求直觉。......原创 2022-06-14 21:33:37 · 137 阅读 · 0 评论 -
当今的数学是否过于繁琐?
这似乎涉及到数学是发明还是发现的问题——如果是发明,那么肯定有改进的空间;如果是发现,那它就是事实本身,不能再简化。然而,即使数学是发现,也会有不同的理解方式,就像同一个物理现象有不同的解释一样。如果当今的数学不是最优的理解方式,那么很可能会出现一次革命性简化,这会以什么方式出现?是当数学发展到一定阶段,人类对数学的繁琐忍无可忍,最终诞生一位“哥白尼”?还是一位没有受过目前的数学教育的数学天才,自我推导出一种全新的数学?或者是人工智能发展到一定阶段,自我领悟出了数学的真谛?甚至于,人类遇到外星文明,发现它们原创 2022-06-14 11:18:28 · 72 阅读 · 0 评论 -
第九章 元学习新进展
1、TAML元学习中,通过相关任务的分布来训练模型,这样它就可以很容易的适应新任务,且只需几个样本。前面介绍的MAML是如何通过计算元梯度和执行元优化来找到模型的最优初始参数,但是会有一个问题:模型可能会在某些任务上有偏差,特别是在元训练阶段抽样的任务上。因此,模型会在这些任务上过度执行,就会阻碍寻找更好的更新规则。为了改善这种情况,我们需要模型在某些任务上无偏或不过度执行,也就是需要使模型与任务无关,来防止任务偏差并获得更好的泛化。TAML有两种:熵最大化,不平等最小化(基尼系数、泰尔指数、算法的方差转载 2022-05-29 22:30:14 · 337 阅读 · 0 评论