人类与机器人将会怎样？人工智能可能是最大灭绝风险
近日，大众汽车新生产线上的安装机器人将一名技师抓住并按压致死事件，触动了公众的神经。尽管专家称目前机器人尚未发展到主动攻击人类的水平，人为操作失误的可能性更大（见科技日报7月3日1版报道）。但人类面对机器人，会不会面临一场控制危机的话题？引发人们关注。
“传统”看法认为，如果我们能够做到谨慎地监控、管制和引导机器人技术的发展，那么机器人将是可控制的。
然而，近几十年来，在不少科幻小说或电影中，都出现了人工智能机器拒绝服从人的命令，甚至杀死或控制人的场景。设若科幻小说或电影场景变成现实的话，人类与机器人的关系将会怎样？
在学术界，关于人工智能可能性的探讨，或者说机器（非生物系统）是否能够跟人类媲美乃至超越人类的智慧，一直也有着很多激烈的争论。比如：我们有理由相信无机生命（机器）会发展出与有机体类似的生存和竞争意志吗？有朝一日机器会不会自己设计、制造并操作不遵循人类准则的新型机器？而届时我们很可能没有任何办法来避免这一可能性的发生。
2014年，包括斯蒂芬·霍金、比尔·盖茨、埃隆·马斯克在内的一些著名人士都提出：如果智能机器缺乏监管，人类将迎来一个黑暗的未来；人工智能可能是我们面临的最大灭绝风险。
为什么会有这样的担忧？
有学者认为，一旦机器拥有了像人类一样的设计和架构技能，仅仅更快的速度和更大的容量就可以使它们对自己的设计（源码）进行操控。机器智能在反馈循环中不断提高自己的能力，出现“智能爆发”，并将远远超出无机器辅助的人类智能。到了那个时候，人类对情感的理解能力，以及作出适当反应的能力（所谓的情商）——这些人类智慧的重要表现，也将被未来的机器智能理解并掌握；人类的世界终将被人工智能的世界代替，人类将会面临一场控制危机。
当然，也有人认为这一切都是危言耸听、杞人忧天，机器人永远也不可能超越人的智能。我们现在连理解一个老鼠的神经行为，从而来模拟老鼠的行为都做不到，何谈通过计算机来模拟人类的行为，进而完全理解人类行为的一切原理？
真正的问题或许是：当科技加速发展，使机器具有更多的智能时，我们并不知道哪里是危险的边缘。更重要的一点在于，我们再不能以看待过去的视野，去理解必将超越它的事物了。
