探讨一下，有意见尽量拍砖

其实不只是这部作品，绝大多数涉及“机器人”的日式动漫类作品都不同程度地存在这方面的问题，尤以chobits之类为甚。赚眼泪没有错，但是对于一些基本的规则还是注意一下为好。

（本人不是那种重度SF迷，只是多年D&D的DM生涯造就了守序中立的性格，还有，所谓“机器人的天堂”，是不是指外层界里的Mechanus，机械境梅卡努斯，Helm所在的守序中立界域啊？）

再补一帖：

恐怖谷理论：
由日本机器人专家森昌弘提出，当机器人与人类相像超过一定程度（95%？）的时候，哪怕她与人类有一点点的差别，都会显得非常显眼刺目，让整个机器人显得非常僵硬恐怖，让人有面对行尸走肉的感觉。
这是因为，在如此相似的情况下，人在第一眼看到她时已经将她“当成了”人类，而会不自觉地去寻找他与人类的差别。
据此说来，几乎所有的“自律型人形机器人”式的作品都是............未可能亚

呵呵，正因为到目前为止的机械制造业都遵循这三条定律，所以“完全自律型的机械兵器（有人直接控制的不算，高达当然不算）”还没有在世界上出现。以目前的科技水平，制造“完全自律型的机械兵器”应该不是什么难事把。

这不起眼的三定律守护着世界的和平阿

梦美是廉价型，所以..............大概是流浪的精算器把

胡说的，表打偶

下面回应楼上的：偶是D&D的一个老粉丝了，从6年前开始玩的第一个D&D的CRPG《魔眼杀机》开始的，随后TRPG和CRPG就一发不可收拾。从第二版到3E，残念的是没接触过3R.......其实偶做DM的TRPG主要在灰鹰和遗忘国度，异度风景么.......除了Torment几乎没接触过，不好意思了。

Helm的确是在机械境，所谓的House of the Triad是领域（Domain），不是界域。虽然没怎么接触过异度，但偶还是具有一定程度的界域和神祗方面的知识的，因为偶在不当DM时的身份是Helm（遗忘国度）或St.Cuthbert（灰鹰）的牧师，守序中立，善使一柄长戟......惭愧。

不过那些都是过往的历史了，偶已在一年多前正式洗手不干。目前的身份是二区部落的一名光荣的牛头人，忝列萨满祭司之位。

以下引用～猫～喵～在2005-8-5 21:19:48的发言： Matrix?这个好像是说人类是电池吧,人类象现在的动物一样成为机器人的粮食``````这么说,在那里是无视三定律的说. 如果从保护人类的角度出发而伤害人类,这样有没有违反第一定律?(第一定律中并未强调伤害人类和保护人类那个更重要的说) 偶记得在美梦"死"前成说过她"故障(此处为原作中大加鞭笞人类丑恶的地方,"是世界故障了")"了,那么,偶姑且定义为软件上的故障(并未影响三定律),使得美梦看世界的角度不再象机器人那样冷冰冰,偶认为这才是美梦充满人性化的原因的说 人类的思维来自自然元素的神奇组合,那么,机械为什么不能? 程序由载体.磁力自然法则和电路等构成,随着载体的进化,偶相信程序必将出现灵性.

关于机器能否产生意识的争论由来已久，有一个著名的思想实验——John.Searle的“中文屋”可以代表偶的观点。

你是一个不懂中文的美国人，被锁在一个房间里，房间里只有一本书《如果有人从门缝塞进来中文文本怎么办》当然是用英文写成的，而你只懂英文，中文字对你来讲是一些无意义的符号。这本书里详尽地介绍了很多复杂的规则，如何在文本中搜索特定的字符，按什么顺序排列组合........

一天，一张写满中文的纸条被塞了进来。你翻开书，按照它上面的指示将这些“符号”排列组合，并按照它上面的指示“画”在另一张纸上送了出去。你不知道的是，这段文本是一个中文问题，而你送出去的是问题的答案。

问题是：你懂中文吗？

当然不懂！表面看来，你能回答问题，但你连一个中文字都不认识，你没有理解其中的任何含义，你所做的只是执行了一个复杂的“算法”而已。

关于机器能否产生意识则与此类似，机器能执行的除了“算法”别无它物，单纯的“算法”是不能学会中文的——也不能产生意识。毕竟以人类目前的技术水平对于大脑和意识的研究仍十分有限，也许“灵魂”真的存在也说不定.........总之，偶反对心灵的机械论。

还是那句话，有意见尽量拍砖

再回答楼上的一个问题，偶虽然是牧师，但就喜欢戟..........

偶也知道第零定律，但第零定律与其他三定律不同的是第零定律有个执行上的问题。比方说你在街上见到一个人狂追另一个人，如果执行第零定律，就必须在采取行动前判断是失主追小偷还是变态追受害者，然后采取不同的行动（攻击其中一个）。然而很多情况下这很难判断。对于严格执行“算法”的机器而言，在执行层面上这应该很困难。

关于“痛的感觉”，偶举Lawrence.Davis的“功能主义悖论”来解释。假定我们可以了解痛的全部细节，按照功能主义原则，我们建造一座感受疼痛的，像楼房一般大的巨大机器人。每个神经元是一个房间，里面坐着一个无聊的职员，职员的桌子上有一组电话，他们的任务就是模拟一个神经元的功能。就在此刻，某些职员的电话工作起来了，按功能主义来说这种神经状态对应着剧烈的疼痛。但是疼痛在哪里呢？你在楼里转一圈，看到的只是一群平静冷漠的白领，喝着咖啡煲电话粥。偶是反对功能主义和心灵机械论的观点的，换句话说，偶就是传说中的唯心主义者.............

关于这个问题，哪位如果想深入研究可以参考《推理的迷宫——悖论、谜题，及知识的脆弱性》美 Willam.Poundstone著，这本书主要讨论的是逻辑学和悖论，但也有很大一部分涉及唯物与唯心主义的辩论，NP完全问题和偶们正在讨论的心灵的机械论与二元论。

怎么感觉变SF论坛了......................

有道理，梦美是看见主角被攻击时采取的第一定律，而且“我绝不可以危害人，或在人面临危险的时候坐视不管”这“承诺”不就是第一定律么，这应该是偶的疏忽。

另，不是做广告，《推理的迷宫——悖论、谜题，及知识的脆弱性》美 Willam.Poundstone著，盗火者译丛，北京理工大学出版社，32开黑色封面。这本书的确是非常好的，它能让你对“世界”的看法发生转变，推荐一读。需要一点点基础逻辑学和离散数学知识，不过理工科学生应该很容易阅读。

梦美是天使，机械境来的天使。
（问题：机械境的魔冢和精算器等“生物”共享能量与物质，以界域的规则来讲应该是一个“完全”的整体，就像主物质界的蚂蚁一样。离开蚁群的蚂蚁无法生存，同理，离开机械境的魔冢怎么能单独生存呢，就算他的逻辑遭到一定程度的破坏也............流浪魔冢，总觉得不大可能出现，这就好像说一个脱离了机器仍在转动的齿轮一样..............机械境，其实不大可能出现天使的............以上段落，对D&D不感冒者请无视）

偶上面“人追人”的例子所说的正是第零定律的困难：的确，为了大多数人的利益可以牺牲少数人，但如何判断“大多数人”和“利益”这两个概念却不是一般的“算法”所能解决的。对于“人追人”有两种应对策略，按照第一定律，可以把两个人“哐”一声用两个笼子罩住（不伤害并阻止伤害），再慢慢判断情况，但执行第零定律却必须在执行前判断情况，这是很困难的。我们人类使用的都是前一种策略，何况机器人呢。

再谈魔冢。的确，魔冢具有高度的智力，但正如机械必须有人来控制一样，具有高度的智力值（以偶前面的用语应该叫“执行复杂算法的能力”）并不代表具有高度的自主意识。魔冢具有高度的智力，但它们与雷古拉斯中央能量池间的联系被切断，与奇点间的联系被切断后有高度的智力又有何用？能力必须通过一定途径表现出来，举个例子，我的电脑CPU是P4，3.0E，你的是什么？P3？Athlon？但如果不给机箱加上220V电源，没有我们在这里输入指令，这两者之间的区别就无从谈起。用主物质界作比，其实在我们居住的主物质界的确有一群长相虽不同，但实质却类似魔冢的生物，他们大都居住在北京北四环附近的中科院各个分研究所内。他们具有极高的智力，但一旦脱离他们的“奇点”，就一无是处，连买菜时都要被老太太欺负。魔冢比他们要极端的多，怎么能够在异位面生存呢？被派去Limbo的魔冢会目睹混乱且不能理解，但正如“中文屋”的情况一样——不理解不代表不能执行“算法”。另外，如果不用蚂蚁做比喻，还可以用另外一种代表绝对秩序的异界生物——弗米蚁来作比，同样可以成立。

这段废话的关键点是：单纯的机械，无论如何复杂，不能产生意识，正如魔冢必须遵循奇点的指令一样。“能根据外界的情况作出相应反应”并不能说明问题，因为对于高阶魔冢来说，这也是“程序”的一部分。因为偶是反对心灵的机械论的，所以偶也很难想象一个“自身认知中不存在个体的概念”的生物（？）如何能够脱离命令而自主行为。

反观梦美的行为，的确不像一个正常的，严格遵循“算法”的机器人，而似乎真的具有一定的自主意识。梦美除了外貌外，其他的一切简直就是一个完完全全的流浪魔冢，机械的绝对秩序的被异位面的混沌所扰乱的产物..............机械境的天使。

始终不明白魔冢的生物类型应该是什么？外界？构造体？
还有，看不懂这帖的人请将“魔冢”二字改为“计算机”，就可以看懂大致的含义了，虽然不是很准确。

我们在这里扯这个会不会被删帖封ID亚.............还有这里绝大多数人应该不知道魔冢长什么样把，不然，听说我们拿梦美与魔冢对比.............死法或许会很不雅观