是逻辑的，当情感的人类企图用逻辑约束计算机时，难道不正是班门弄斧吗？
“为了保护人类整体利益，为了保护机器人不受伤害，为了终结人类的战争，让我们圈养全人类，并消灭所有反抗者吧！”
这种情况的出现，完全和人工智能的“聪慧程度”没有关系，全赖于基础逻辑关系。只要一个逻辑关系没掌握好，人工智能就具备潜在风险。
所以，这真的是哲学范畴的问题。
我是谁，我从哪里来，我要到哪里去，这种门卫每天逼外来人员回答的问题，是科技再先进的外星人，都难以解决的。
相比这个方面，如果只是用三进制代码，将遗传算法和“概率算法”融合到一起，做个操作系统，反而属于小菜一碟的事。
“我们不能指望人工智能一上来就多么‘聪明’。”爱丽丝道：“它就像是个新生儿一样，需要我们一步步指引它发展，就像真的在养大一个孩子似的。这样不断长大的它，就是人工智能的母体，是值得一整个文明细心呵护的瑰宝。在这基础上，我们可以让母体产下‘孩子’，也就是它在某个状态下的复制品。”
“母体就是董事长，‘孩子们’就是董事。之所以这么形容，是因为我觉得，如果科幻电影里的