人类在感性思维上的不完美是其基本特点
有人说AI下棋会赢是因为计算机只会计算概率大、胜算大的方案,从经济学的概率权理论上就赢了人类,那么我想我们塑造的AI在出发点上似乎一直就是为赢、最优而存在的,在单纯的某几项能力水平上是会超越人类的,但是按这种思路发展下去的AI恐怕是无法真正的像人类一样的(如人类一样具备生物智能的高AI),因为人类是会输、会失败的,人类去看电影看了十分钟觉得是烂片,还可能抱着试一试的想法坚持看下去的(说不定会有不一样的结果),但是按机器思维,既然判断是烂片了,那何必浪费时间呢。如果让这样的AI协助人类做社会决策,估计很容易得到像科幻作品中那样单纯的顾及大多数人、放弃少数人的结果,甚至可能是制造反乌托邦式的社会,机械、没有人情味。
“让人类保持理智,确实是一种奢求 ”
by MOSS