也许我们可以把消防交给机器人去做

　　没时间读书？没关系，我们将以一种前所未见的读书形式，替你把经典都读了。下面出场的是凯文凯利的经典著作《失控》系列视频第二部：失控的机器人。
　　随着人工生命的出现，我们也许是第一个创造自己接班人的物种。科技被生物活素激活之后，我们就得了一个崭新的生物文明。
　　超人工智能确实会比人类思考的快很多，但是真正的差别其实是在智能的质量而不是速度上。就像人类之所以比猩猩智能很多，真正的差别并不是思考的速度，而是人类的大脑有一些独特而复杂的认知模块。
　　自然演化花了几亿年时间发展了生物大脑，一旦人类创造出一个超人工智能，我们就是在碾压自然演化了。科学家认为我们会面临两个可能的结果永生和灭绝。
　　历史上来说，所有生物终将灭绝就像所有人都会死一样靠谱。
　　虽然大部分科学家都承认一个超人工智能有把人类灭绝的能力，也有一些人为如果运用得当，超人工智能可以帮助人类和其它物种，达到永生。拥有了超级智能和超级智能所能创造的技术，超人工智能可以解决人类世界的所有问题。气候变暖？癌症？或者世界饥荒。
　　而且人造材料将越来越多的融入人体。最开始，人体器官将被先进的机械器官所代替，而这些机械器官可以一直运行下去。我们甚至会改造自己的大脑，使得我们的思考速度比现在快亿万倍，并且使得大脑能和云存储的信息进行交流。
　　人类可能会完全变成人工的。有一天当我们看到生物材料，然后觉得生物材料实在太原始了，早期的人类居然会被微生物、意外、疾病杀死。这就是科学家眼中人类最终战胜自己的生理。
　　但另一方面，未来可能是我们最糟的恶梦。
　　坏机器人总是让我很困惑。机器人是我们造的，难道我们不会在设计时候防止坏事的发生吗？
　　大部分专家认为糟糕的地方不在于制造机器人的人是坏人，而在于在这些情况下，这些人基本上是不经思考就把超人工智能造出来，而一造出来就失去了对超人工智能的控制。
　　如果被创造出来的超人工智能是怀有恶意的，并且决定毁灭我，怎么办？这就是大部分关于人工智能的电影的剧情。电影里的人工智能有好有坏，这其实是对人工智能的拟人化，这给了我们对人工智能的错觉。
　　在人类心理中，我们把事情分成道德的和不道德的。但是这两种只存在于人类行为之中。超出人类心理的范畴，道德（moral）和不道德（immoral）之外，更多的是非道德性（amoral）。
　　比如，我们要让一个人工智能的价值观和我们的价值观相仿，然后给它设定一个目标让人们快乐。当它变得足够聪明的时候，它会发现最有效的方法是给人脑植入电极来刺激人脑的快乐中枢。
　　当这些事情发生的时候，我们会大喊擦，我们不是这个意思呀，但是那时已经太晚了。
　　如果超人工智能真的在21世纪达成，而造成的影响真的如大部分专家预测的一样极端而永久，我们肩上就真的是背负着巨大的责任。接下来几百万年的人们都在静静地看着我们，希望我们不要搞砸。