1、1马克吐温机器人“我要警告你，让机器人具备幽默感是件危险的事情。 ” 怀特教授放下烟斗，严厉地瞪着这个把头发染成黄色的年轻研究员。那个年轻人丝毫不畏惧这位机器人权威的目光，侃侃而谈：“现在机器人市场的竞争非常激烈，我们必须采取个性化的产品开发策略。市场部的调研表明，广大用户已经厌倦了一成不变的古板金属面孔，他们想要的是拥有强烈个性的人情味儿产品。 ” “可是这能够实现吗?让机器人像人类一样开玩笑。 ”另外一位董事饶有兴趣地问道。 “技术上没有难度。 ”研究员回答， “我的研发小组已经设计出了一整套算法，配合我们的笑话数据库，可以很完美地在不同情境下模拟出适当的玩笑。 ”他有意停顿了一下， “我
2、们的虚拟机甚至差点通过图灵测试。 ” 公司的董事们最终被说服了，他们对幽默感机器人的广阔市场前景很有信心。研发小组得到了一大笔资金的支持，用来把幽默感真正应用到机器人身上。这个幽默模块项目，被命名为“马克吐温” 。 整个董事会里只有怀特教授坚持自己的观点，老人在会议结束后固执地说：“一定会出大问题的，这不是个好主意。 ” 果然如他所料，事故很快便发生了。 事故发生的地点是在公司的一个调试车间。在那里，第一台搭载了2“马克吐温”模块的机器人出现了原因不明的短路。接下来生产的几台机器人也相继出现类似事故，没有一台坚持到出厂。 研发小组非常困惑，他们反复调查了生产环节与电路图，甚至对每一枚螺丝钉都做
3、了测试，没有发现任何值得一提的瑕疵。可机器人的故障仍旧持续发生，根本无法达到工业化生产的合格率。而且每一台机器人故障发生的时机和阶段都不尽相同，有些一下线在做第一次调试时就完蛋了，有些则一直坚持到快包装时才出事这更增加了调查分析的难度。 走投无路之下，他们只得去请教怀特教授。怀特教授在研究了整个生产流程以后，把研发小组召集到了一起。 “你们有没有注意到，这些机器人发生故障时有一个共同之处，他们都接触到了人类。 ”怀特教授指着屏幕上回放的监控录像，一个穿着橘红色工作服的工程师走到机器人身旁，做了短暂的交流。 “这是出厂前的必要检查，我们的工程师会随机询问一些问题，根据机器人的回答来判断“马克吐温
4、”模块是否正常运转。 ”研发小组的组长解释。 “总装技工、机械美容师、测试工程师、包装控制、物流工人一个机器人从下线到装车，至少会接触到七个到十个人类，在这期间机器人可以与他们任意人进行交流，而 99的故障也恰好也在这个阶段。 ”怀特教授说。 研发小组组长有些不服气：“这是我们故意设置的。这些技师、工程师与工人的教育背景、性格都不相同，我们需要测试“马克吐温”在3不同环境下对不同人的随机应变能力。这难道有错吗?” 怀特教授摇了摇头：“这一套工业化流程与质量控制做得很好，无可挑剔。可问题出在底层你们还记得机器人三定律吧?每一台机器人都必须遵循这三条定律行事。 ” 所有人都笑了，他们认为教授在开玩
5、笑。在这里的人个个都有机器人专业的博士头衔，怎么可能会不知道这种本科生的常识。 怀特教授知道他们根本没明白，叹了一口气，调出一段录像。这段录像记录了第六台“马克吐温”机器人从组装到发生故障的全过程。 “马克吐温”六号从总装线末端被运送到指定位置，拟人皮肤还未被植上，未经修饰的铝合金机体显得颇为冷酷。一名调试工程师走到他旁边，打开麦克风，以便周围的工程师也都能听到他们之间的对话。 “六号，你能听懂我的话吗?” “当然能，我又不是女人。 ” 周围的人都笑起来，工程师满意地在一份表格上划了一个勾。 “六号，我叫威斯尔，是负责调试你的工程师，现在我要对你做个测试。 ” “拿开你的手，说出你的学历，我可
6、不是随便什么杂工踢上一脚就恢复正常的破烂货。 ” “嘿!”威斯尔故意大声叫起来， “你这是歧视，我要去公司投诉你。” “造一个像我这样的机器人要一百万美元，雇佣一个三流大学毕业的见习工程师，年薪才八万。你觉得他们会站在哪一边?”马克吐温六号4说完以后，还转动了一下没装眼皮的眼睛，惹起一阵哄堂大笑与口哨。 威斯尔露出尴尬的表情，不自然地干笑了一声，把表格上划了一个大勾，转身离去。马克吐温六号的传感器把这一切都记录了下来。 五分钟以后，六号发生了短路。 录像到这里，暂停了。怀特博士指着大屏幕上威斯尔的脸：“看看这位工程师的脸，他的自尊显然受到了伤害。 ” “可那只是个玩笑。 ”一个组员嘟囔。 “对
7、其他人是，可对他并不是。这就是故障的真正原因。机器人定律第一条明确规定，机器人不得伤害人类。那个笑话显然伤了威斯尔的心，六号察觉到了这一点，它的逻辑电路因此而被烧毁。 ” “可那并不是物理上的伤害呀。 ” “你被人嘲笑的时候，胸口是否很闷?当你被女友甩掉的时候，是否食不知味，夜不成寐?人类的精神创伤，会反映到生理指标上来。所以对机器人来说，这两者是等效的。 ” 随即怀特教授又调出了其他几段录像，无一例外地，这些马克吐温机器人的玩笑或多或少都伤到了与它们攀谈的人，然后机器人第一定律迫使它们自毁。 “幽默感在很大程度上，是一种嘲笑与讽刺的技术，它天然就是要伤害到特定的一类人或者一类事物，这与机器人
8、第一定律不可调和。所以我从一开始就指出，这很危险。 ” 会议室陷入了沉默，真相查明了，可实在太难以让人接受。 “难道我们不能让幽默感与机器人三定律并存吗?”研发小组组长可5怜巴巴地问道，现在怀特教授是他们唯一的希望。怀特教授沉思了片刻，开口说道： “也不是不可能，毕竟也有一些谁也不会得罪的玩笑。如果我们调整笑话数据库的调用规则，只挑选对人类和机器人都安全无害的玩笑，理论上可以规避第一定律。 ” 怀特教授的话让小组每一个人都燃起了希望的火花。可他下一句话却重新让他们回到地狱：“可是我不知道，这种经过了阉割请原谅我使用这个词的模块，是否还配叫做幽默。 ” 但是研发小组已经走投无路了，他们只能继续前
9、进。他们听从了怀特教授的意见，设计出一套比幽默感更复杂的算法，剔除掉可能会冒犯人类或者对人类造成心理伤害的内容，确保不会被马克吐温机器人的幽默伤害到。 在董事会的计划里，这个产品会面向全球用户，因此研发小组必须保证笑话数据库对每一个使用者来说，都是安全的。可他们发现最大的困难是：人类社会的构成太过复杂，很难找到一个每个人都皆大欢喜的玩笑。每一个笑话，总是或多或少让特定的人不悦，从而构成潜在的机器人自毁风险。研发小组不得不一次又一次拿数据库与信息量庞大的社会信息反复比较、筛选，挑选出安全系数最高最不得罪人的段子。 结果如怀特教授所预料的那样，几经修改的“马克吐温 v2”面世以后，自毁现象消失了，
10、它不再违反机器人第一定律，可是随之消失的还有它的幽默感。 “它说的笑话乏味得简直像是一个真正的人事部经理， ”一个测试工6程师抱怨。 “甚至组装车间的氮气罐都比它的玩笑要暖和一些。 ”另外一位工人如此表示。 公司董事会为此召开了一次紧急会议。在研发小组让“马克吐温v2”当场表演了十分钟的幽默演说以后，董事们一致认为，这样的产品绝对不能推广到市场上去，失去了幽默感的“马克吐温”就等于失去了一切。 之前生产出来的十几台马克吐温 v2，彻底沦为了废物。这些幽默瑕疵品最后被一个精明的销售人员卖去了遥远的地方，那里每年都会有一次盛大的表演活动，需要一些安全的搞笑表演。 抛弃了这些失败作品以后，走投无路的
11、研发小组不得不彻夜开会，希望能找出一个解决方案。一个一个方案被提出来，又一个一个被否决，每个人都绞尽脑汁，殚精竭虑。 希望的曙光在第三天出现，一名工程师终于想到了一个主意。这名工程师在小组里的学历最低，总被其他组员如有若无地排斥、嘲弄。他为了改善自己的处境，总喜欢把自己的糗事讲给大家听，博他们一笑，好融入这个团队。 他提出了一个建议：“幽默里有一种类型，既能让对方大笑，也不会伤害到其他人。我认为这是一个值得探讨的发展方向。 ” “是什么?”组长急切地问。 “自嘲。 ”那名工程师脸上浮现出淡淡的红晕。 经过讨论以后，很快大家都体会到这个提案的精妙之处：一个擅于7嘲弄自己的机器人总会让用户感觉到非
12、常好笑，同时这又不会冒犯到其他人。这就完美地解决了幽默感与机器人第一定律的冲突没有人类因此受到伤害。 按照这个思路，他们很快就研制出了马克吐温 v3，这是小组最后的机会。在 v3 下线的时候，所有的研究人员都围在四周，让一名最资深的测试工程师出面，问它第一个问题：“来，给我讲个笑话。 ” “你确定想听一个机器人讲笑话?”马克吐温 v3 冷冷地回答。它一本正经的态度让旁观者忍俊不禁。 “是的，比如说关于你自己的外貌，你有什么看法吗?”工程师按照拟好的对话序列说。 “没什么好评价的，一堆拿胶布粘起来的破烂线圈而已。 ”马克吐温v3 飞快地调出一套范式，耸了耸肩， “不过护士告诉我说，我失忆之前是一
13、辆横穿高速公路未遂的割草机。 ”大家哈哈大笑起来，在笑声中，马克吐温 v3 开始冒出白烟，瘫倒在地上 “这究竟是怎么回事?”公司董事们问。他们已经决定终止这个项目，但必须弄清楚其中的原因。 怀特教授站出来，代替失魂落魄的研发小组组长解释：“为了达到引人发笑的效果，幽默模块让马克吐温 v3 下了一个判断：我=破烂线圈 ，这个虚假判断被模块强制设置为真；可主系统也下了一个判断：我=马克吐温 v3，判断同样为真。这两个彼此矛盾的判断同时为真，导致逻辑线路陷入混乱，进而造成系统崩溃。 ” “说得简单点。 ”不大懂技术的董事们皱起眉头。 8怀特教授扬起手臂：“自嘲对机器人会产生不可逆转的逻辑伤害。因此马克吐温 v3 的设计违反了机器人第三定律：机器人在不违反第一第二定律的前提下，应确保自身安全。 ” 说到这里，怀特教授威严地扫视全场，缓缓说道： “你们可以理解为，机器人也有自尊心，连他们都不愿意讲马克吐温 v2 那种无聊的笑话。 ” 选自豆瓣网
