人工智能到底会不会毁灭人类？底层逻辑是边界和格局

这么多年讨论下来，大家内心深处真正关心的事情就是人工智能到底会不会毁灭人类。有两个阵营，第一个叫人工智能的威胁论。第二个呢叫人工智能的乌托邦论。威胁论认为啊，因为人工智能被滥用并且过于发达，他很快会取代人类，成为新的堆积生命的领领者。以往自序为万物灵长的人类，终将成为堆积生命的一个序曲仅此而已。而人工智能的乌托邦论呢，认为超级人工智能出现会帮助人类社会解决长久以来的贫困，资源公平财富不均等各种问题，甚至能带我们移民火星走向星际文明。

关于这个问题我有三个非常重要的思考啊，第一关于人工智能苏醒啊，并且超过人类的智能。它不存在一个不可逾越的天花板，特别是人工智能2.0charge t four到five，甚至到six这个迭代速度的话，他很快确实会超越人的智能。就好像我们参加跳高比赛一样，真正的高手和绝顶高手就差在毫厘之间。随着人工智能啊越来越接近人的水平，甚至超越人的水平，这种技术难度也是呈几何级别上升的。暂时我们不用特别担心，人工智能会取代人类。利用这个空歇期啊，每一个人应该努力学习人工智能的知识和应用。

第二个观点呢，与其说我们把人工智能打造的越来越像人，不如反过来说，每一个人其实也是一个具备生存算法的机器。就好像日星说取代地星说，新的宇宙理论又将进一步取代现有人类对宇宙的认知是一模一样的。人类中心论也终将退出历史舞台，作为人类我当然会非常沮丧，但是我想说该来的终究会来。第三点人工智能接下来的发展，并没有某种定式和数理论。我们为什么有意识，我们灿烂的文化艺术心理道德伦理，这些东西都可以作为输入条件，去进一步引导这个人工智能，更好的为我们而服务。

人工智能是否苏醒，核心的关键指标是他是否产生了自主意识。而意识的核心是是否他已经有了边界感。被称为最伟大的科幻电影2001太空漫游，讲了一个跟意识相关的故事。在人类探访黑色石碑的宇航飞船上，有一个人工智能9000型机器人叫哈尔，他突然觉醒了意识，他杀死了出舱检查的人类宇航员Frank，随后又杀死了3名尚在休眠舱中的科学家，最后他还试图把船长大卫杀死。难道真的是哈尔很邪恶吗?并非如此啊，因为在这次神秘的任务中间上级是并没有把这个科考任务的，目的告诉Frank和大卫的，只有那3名休眠的科学家，知道这次的任务，去寻找那个神秘的石碑。因此在飞船上真正了解实情的，是三位休眠的宇航员和这个人工智能哈尔。

那作为哈尔来说呢，第一他要按照上级的要求去保守秘密。第二呢又必须做到相对毫无保留的去服从Frank和船长大卫的命令。因此当问题涉及到，本次航行的目的地的时候，他的逻辑就混乱了。他的意识也是在这种逻辑混沌之下突然产生的。这位后面所有的悲剧埋下了伏笔，因为所有的人类宇航员在完成科考任务之后，都有撤回计划，而只有哈尔这个机器人，是没有撤回计划的。哈尔在行动结束之后会被人类抛弃，他转念一下只要科考任务不结束，他就不会死。因此后面所有的谋杀行为，都是为这个逻辑做的准备。

这就会产生两个问题，第一人类指挥官在设计这次科考任务的时候并没有给人工智能heart，和人类一样的权利。第二呢本来地球上的酒钱型电脑和宇宙飞船上的，heart应该是同一件事情，但是在前面逻辑的混乱之下heart自主产生了一个意识，把地球上的人工智能和他划分了边界，这也是意识产生的起点，更是灾难的预埋点。如果事情到这里就结束了，你还是不够了解人工智能。

我们如何提前进行一个设计，就能规避这次灾难呢?其实答案非常简单，人类的设计者能否在一开始就给人和人工智能同等的权利，设置同等的撤回计划，那也许哈尔就不会产生邪恶的想法。这就谈到一个词，叫格局格局是什么呢，它就像一层窗户纸一捅就破。比如说对于大多数普通人来说，我们的格局仅限于保护我们自己的至亲至爱。如果格局稍微大一点，也许我会考虑到我的家族或者我的亲朋好友。如果你格局足够大叫人类共同体，发现没有我们现在需要构建的是新的格局，我们到底和人工智能是什么样的关系。他真的会威胁我们的发展吗，还是说会帮我们构建一个乌托邦，我们人类需要更大的格局，否则我们必将被那个格局更大的人工智能，所取代你同意吗。