我认为，这个问题不必担忧：技术会使人工智能进步，但人类也可以靠技术来进化。

一个事实是，就目前来说，人工智能的很多方面，特别是逻辑和判断，已经远远超过了人类，最重要的节点就是，围棋比赛中阿尔法4:1战胜李世石。

对于逻辑和判断的学习能力，人工智能已经远远超过了人类。但人类还有优势，那就是想象力。人工智能到目前为止仍然无法想象到它没有接触过的东西（数据），而这是人类所特长的，人类从很小的时候，有自我意识开始，就会想象虚构的事物。正如尤瓦尔·赫拉利的《人类简史》里面所说的，智人正是靠着“想象的共同体”来成为现在的人类，建成我们现今的科技和文明。

《人类简史》

但是倚靠着人工智能不断地发展，可否会诞生出和我们一样会想象虚无事物的智能？答案是肯定的。

《异形前传：普罗米修斯》

要担忧和恐惧吗？单纯看人工智能的优异表现，我们确实应该感觉到恐惧。正如《异形前传：普罗米修斯》里面提出的问题：上帝（“工程师”）创造了人类，而人类创造了机器人，是否这本身就是宿命的替代？

《未来简史》

尤瓦尔·赫拉利写的另一部巨著《未来简史》，实际上已经从一个方面解答了这个问题。

未来的人类，会和机器结合，升级为“神人”。

《攻壳机动队》

《铳梦》改编的电影《阿丽塔：战斗天使》

什么是神人？就是人和机器的完美结合。被称为神作的日本漫画《攻壳机动队》和《铳梦》里面描述了各种义体人。未来的人类，近视的可以改装成义眼，可以提升人类的视力达到机器和人工智能的水平；甚至可以更换全身除大脑外的所有肢体和器官，强化成半神半人的不可思议形态；最终可以把自己的思想抽离，融入到网络，和人工智能结合，成为真正意义上的“神人”。

原始人类，如果他能想象到现在的坦克、飞机、原子弹，他一定也会感觉到恐惧，因为他不知道支撑着这样的科技的背后，是人类智慧的进步；而我们现在如果能想到，未来我们人类一样在跟随技术进步，这何惧之有呢？

当人工智能复杂度日渐提升，达到超出任何人类的理解能力时，其管理将会从简单操控，上升到道德伦理层次的安全设计准则，乃至有建立了新兴学科——机械伦理学。

实际上的应用逻辑可以参考阿西莫夫在《我，机器人》一书的引言中所写“机器人学三大法则”:

1.机器人必须不危害人类,也不允许他眼看人将受害而袖手旁观。

2.机器人必须绝对服从于人类,除非这种服从有害于人类。

3.机器人必须保护自身不受伤害,除非为了保护人类或者是人类命令它做出牺牲。

后来，又出现了补充的“机器人第0法则”:机器人必须保护人类的整体利益不受伤害，其它三条定律在此前提下才成立。

当然，后续随着时代发展，人们又对其有不断的补充与修正，如繁殖原则:机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。

这些守则中，把“机器人”替换为“人工智能”，可以当作在人工智能的安全设计中的指导原则，也将会在未来发展中不断补充与完善。

相关书籍还有《机器人管家》，《机器公敌》，《2001:太空漫游》等，甚至有拍成了电影。有兴趣的建议看下。

可以考虑使用物竞天择，狗尽人择的方式，驯化温顺的人工智能。要么人成为人机融化一起进化。否则科幻电影中的情况就会出现。