关于这个问题，中国科普博览邀请人工智能领域的大咖、SELF讲坛演讲嘉宾、中科院计算所陈云霁研究员来回答。2002年起，陈云霁从事国产处理器的研发工作， 先后负责或参与了多款龙芯处理器的设计。

科学伦理必须对我们的科技产品的生产和使用，要进行一些限制，你不能随便去用它。我觉得这个机器和人之间的关系，是非常值得探索的。

比如首先，尤其像人工神经网络这样的技术，它的行为是有一定的这种不可预测性的。我们怎么让一个有具有不可预测性的这种人工智能算法，让它最后的行为又是能够符合某些确定的规范的呢？其实这背后是有很多科学问题的。

阿西莫夫三原则或者三定律是：

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

我觉得三定律可能是科幻小说家的一个想象而已，但是背后确实有它的哲学的思考，也可以查阅出很多实际的科学问题来。我觉得这些科学问题，未来是非常值得我们这些研究者去探索的，而且是非常有必要去探索的。因为毕竟我们去做人工智能的研究，也是为了让人类社会能够有，说白了就是能够大家生活得更幸福。如果说引来了一些预想之外的那种灾难，那肯定不是我们希望的事情。