的自身判断,同时还具有更客观的参考意义。我们在社会中的选择无一不是自私与自制的博弈,而控制这一切的就是道德。但是道德也必须被自私和自制所反制,否则过于道德过于理想的人会做出更可怕的事情来。”
孙平举了极端环保主义份子的例子,他们反对科学进步反对人类繁衍,理由是人类对地球对自然造成了极大的负担。他们是反人类的,但是从地球或其他生物的立场出发,他们又是正确的。可以说,他们是基于纯粹的道德来进行问题判断,但结果却对人类来说是黑暗和消极的。
其实孙平的理论是来自《新世纪福音战士》中magi电脑的设计原理,赤木律子博士的妈妈赤木直子博士设计了这套理论。magi的三台分电脑melchior、balthasar、casper分别继承了赤木直子身为科学家、母亲和女人的身份。
科学家代表着纯粹的理性,也就是赤木直子的超我存在;母亲则代表社会人的属性,也就是赤木直子本我存在;而女人则代表了自然人的属性,也就是赤木直子自我存在。当然,magi比孙平的系统要走得更远,因为它具有独立人格和情感属性,这样人工智能就更加人性化了。
不过也因为如此,这样的系统会更加独立和“任性