机器人的力量有时候使我们人类无法估计的强大，随着人工智能的爆发式增长，许多的业界人士一直认为如果AI机器人有了意识，他将会成为世界的灾难。他会自动成为机器杀手。

　　包括霍金在内的许多科学家认为AI机器人获得意识仅仅是时间问题，这些机器人将胜任人类的一切工作，然而这也将带来法律和道德上的挑战。据报道，在“The ConversaTIon”网站的一篇文章中，美国俄克拉荷马州立大学教授苏巴什˙卡阐述了机器人获得意识可能造成的后果。

　　苏巴什˙卡称，人工智能在未来将有突破性的进展： 机器能够感知自身和周围环境，，并且实时吸收和处理大量数据。它可以进入太空、投入战斗，完成危险的任务，还可以做饭、打扫、洗衣服——甚至能在人孤独的时候给予陪伴。一套特别先进的机器能够代替人类完成所有工作，将人类从枯燥的工作中解放出来。但苏巴什˙卡也指出，这样的机器会动摇社会基础，带来麻烦的法律和伦理问题。更可怕的是，它们可能会反抗、并希望彻底消灭人类。他在文章中写道，研究人员在这些超感知机器是否存在的问题上存在分歧。在机器是否可以或者应该被称为“有意识”的问题上，学界也意见不一。

　　报道中还提到了“机器人杀手”和自动化武器的运用。2016年人权观察组织的报告显示，由于机器人无需为战争负责，因此需要禁止“机器人杀手”使用和发展。去年，超过1000名科技以及机器人专家警告，机器人武器可能只需数年的发展，而不是几十年。在一封公开信中，他们称，如果主要的军事力量推动自动化武器的发展，那么“全球军备竞赛将无可避免”。