最近读了日本作家山本弘的号称“日本赛伯朋克最佳作”、“补完‘机器人三定律’超越阿莫西夫”的《艾比斯之梦》 （アイの物語），颇有感慨。我原本就对人工智能有很大的兴趣，这或许属于某种技术迷恋，但是出于它不断发展成为我们的期望的现实考虑，这种关注应该是不为过的。另外，人工智能的开发如若成功，它必将成为所有人造物中最复杂的一种，有如我们人自身的心灵，它最终将复杂到我们不可理解的程度，这也就是其必然成为无法绕过的重大话题的原因。在这里，我不想过多讨论其技术实现的种种细节，我将直接假定人工智能已经实现且进入自我维持发展的最终阶段，将重心放在它与人、与人类社会的关系上，简单地谈一些我的看法。
一开始我便想到，恐惧也许是人类行动的本能的推动力之一。人对于人工智能的恐惧应该是众多问题的源头。刚才已经提到，人工智能发展到实用阶段，尽管运作原理可能很简单，但其实际复杂程度必定已经超越人的理解能力。在这种黑箱之下究竟藏有怎样的想法、人类究竟是否还拥有对它们的完全掌控，这类问题我们都不得而知。此外，借用所谓“恐怖谷理论”的意见，人工智能仿照了人类的思维，却终究无法成为人类。但是，它们甚至拥有远高于人类的智慧和力量，山本弘的机器人即被设定为是这种即便是在道德观念上亦更为先进的存在。如此一来，与其说人工智能是人类的造物，倒不如说是在地球上凭空出现的一个新的种族。非我族类，其心必异。如果不能产生真正的信任关系，在这样不平等的条件下，人的恐惧随时有可能爆发成大的冲突。人类的恐惧不无道理，这似乎也是人类历史中反复出现的经验教训，这种情况下产生集体的抗拒几乎就是演化的结果。然而根据作者的想法，人工智能由于其对待一切事物理性客观的态度，避免了人类因其种族的非理性非客观之劣势而犯下的错误，虽然在各方面呈现出压倒性的力量，并且不受人类控制，但它们依然服务于人类，保护着人类的安全，为人类的利益而工作，这是由一种更加进化了的机器人的道德所保证的。因此这部作品中，机器人作为更高级的善的存在，似乎有理由替代人类成为这个文明新的主宰者，而人类即便在与机器人共处之中也可活得不失尊严（实际情况人类无法觉察）。至于结果人类由于其被害妄想而与机器人为敌，最终间接导致文明衰落则属于咎由自取。
机器人完成人类未竟的事业——心理上很难抗拒书中人类文明的这种“美丽”的结局。人类为什么会欣然接受这种“优胜劣汰”的安排？这不是狭隘的种族偏见，而是人生存的姿态问题。人类不是不能和机器人和平共处，而是人类至少要能自己决定自己的命运，努力促成自我的实现。在这个意义下，我们的问题便还原为个人自决的自由和上层正确的权威之间的矛盾的问题，只不过由于人工智能这一种异化的存在而增加了问题的难度。当然，如果机器人的道德并不是以作者所想的方式推论得出的话，这个问题就更为纯粹了。
如果说要在这样的设定下给出我的答案的话，自然是人类应当停止自暴自弃，稍微宽容一点。不过这就扯远了。
烂尾的分割线
之前想好的一些重要问题似乎忘了很多，特别是关于这个甜美故事的问题以及人类应当的做法，包括双方的一个比较合理的关系。果然当时应该马上记下来的。也许下次试试直接列提纲？
其实还应该考虑“人工智能是否可以代表人类文明”这个问题。然而过于困难，还没想好。暂时先这样，反正这不是一个马上就必须讨论完毕给出结论的问题。
果然现在脑力衰退，不多加锻炼不行。