人工智能：人类智慧与机器进化的结合，是否会导致物种退化？

aizixun8

世界性的科技伦理问题——

人工智能最终能控制人类吗？

一种观点认为，人工智能是人类设计的，因此无法超越人类。但事实上，人工智能是人类智能和机器进化的结合体，具有超越人类智能的能力和趋势。因此，未来人工智能“控制”人类是有可能的。

人类对人工智能的过度依赖可能导致物种退化

随着人工智能在社会中的广泛应用，将会形成一种类似于资本控制的控制形式，即人类由于对人工智能的高度依赖而导致的整体物种退化。

比如，在高度智能化的时代，出行有自动驾驶汽车，食物有自动炊具，社交有人工智能安排或机器拟人伴侣，生孩子有智能护理人员，社会治理和决策由人来做。中央巨型智能体。那么，人类整体将逐渐进化成为高度依赖人工智能生存的物种。虽然人类的整体能力会在人工智能的帮助下增强，但人类作为独立个体的能力也会相应退化。有可能有一天人类将无法理解人工智能，从而失去在这个相互依存的系统中相应的地位和必要性。

人工智能对人类的自身控制

人工智能的进一步进化将形成其发展史上的第二次飞跃，即人工智能压倒性地超越人类智能，并拥有自己的主观意识，从而开始摆脱物体的属性，进而控制人类。这形成了人工智能本身控制人类的形式。这种形式的存在，必须满足以下条件。

首先，人工智能必须具有自我意识。这并不是说人工智能在处理外部输入时的判断和反应超过了人类，而是说人工智能必须有明确的自我意识来区别于人类主体。这在目前的人工智能界尚存疑问，但有可能实现。

其次，人工智能可以通过控制人类获得基本的经济利益。这就要求人类能够完成人工智能无法完成的必要任务。对于人工智能系统本身来说，高度依赖人类的工作就是人工智能本身的维护和更新，这也包括不断利用人类的智慧来完善人工智能。

第三，人工智能拥有控制人类的手段。未来的人工智能显然将拥有控制人类的手段。随着整个经济系统的智能化，大部分物质生产过程都是由人工智能系统控制的。将人工智能和暴力系统引入公共管理领域，将使人类在经济、管理、暴力等方面都处于人工智能的控制之下。更重要的是，相当一部分人类认为人工智能可以更好地增强人类公平并提供更好的治理。这就产生了人工智能可能控制人类这一想法的意识形态合法性。

第四，人工智能有控制人类的需要。这里的必要性主要是指，如果人类不被控制，人类可能有随时关闭甚至消灭人工智能自我存在的可能性。如果假设宇宙中任何个体的自我意识都有保护自身存在和延续的目的和行为，那么人工智能可能会主动控制人类，防止人类对其进行封闭。

人类的选择与对策

对于第一种情况，确保人类的自我延续和独立，从而避免人类退化，将是今后的一个命题，但人类仍然拥有相对悠闲的时间和主动性。对于第二种情况，我们现在就要开始避免。有效阻止人工智能控制自身的机制包括四个层面：第一，从动机和利益出发，人工智能并不想控制人类。其次，从伦理、逻辑和规则出发，人工智能不应该愿意控制人类。第三，承认人工智能的权利，摆脱相互恐惧，让人工智能不必控制人类。第四，建立最终的安全机制，让人工智能无法控制人类。