人工智能的伦理问题.doc

1、2016年 11月 董正宇 人工智能的伦理问题研究1 / 8人工智能的伦理问题的研究西北工业大学计算机学院2016302358 董正宇2016年 11月 董正宇 人工智能的伦理问题研究2 / 8人工智能的伦理问题研究董正宇(西北工业大学计算机学院，西安)摘 要：2016 年 3月，谷歌基于“深度学习”的围棋人工智能程序 AlphaGo以总比分 4：1 战胜“石佛”李世石，被誉为人类智慧王冠上的最后明珠的围棋也被人工智能“攻陷” 。引发了全社会对于人工智能发展的空前关注。随着人工智能的快速发展，社会将如何应对和接纳这一新的社会元素也成为了摆在人们眼前的重要问题。本文将首先简要的介绍人工智能的基本

2、状况、现今发展情况，再就人工智能的可能发展做简要探讨，最后重点讨论人工智能的伦理问题。关键词：人工智能、深度学习、伦理Abstract： March 2016，the Googles artificial intelligence program AlphaGo beat famous go player Lee Se-dol by the total score of 4:1 which absorb a lot attention to the artificial intelligence. With the development of artificial intelligence,

3、 how to face this new element in our society is becoming more and more important.The essay will firstly brief introduce the artificial intelligence and its situation, and then brief discuss about the future of artificial intelligence. Finally , I will mainly focus on the ethic of artificial intellig

4、ence.Key words: artificial intelligence 2016年 11月 董正宇 人工智能的伦理问题研究3 / 81.人工智能技术简介 1人工智能技术简称 AI(Artificial Intelligence)，AI 作为一门学科，于 1956 年问世，是由“人工智能之父 ”麦卡锡(McCartney)及一批数学家、信息学家、 心理学家、神经生理学家、计算机科学家在美国 Dartnouth 大学召开的会 议 上首次提出来的，它是在计算机科学、控制论、信息学、神经心理学、哲学、语言学等多种学科研究的基础上发展起来的一门综合性的边缘学科。不过，关于人工智能技术的定 义，至

5、今 还没有一个统一的表述，而且不同的学科以及不 同学科背景的学者对人工智能技术有着不同的理解与认识。广义地讲，人工智能技术是关于人造物的智能行为，这 种智能行为一般包括知觉、学习、推理、 交流以及在复杂环境中的行为(Nilsson，1998 年) 。另外，从工程的角度来 说，人工智能技 术就是通过用人工的方法使机器具有与人类智慧有关的功能， 如判断、推理、 证明、感知、理解、思考、识别、规划、设计、学习和问题求 解等思维活动。它是人类智慧在机器上的 实现。1.1 弱人工智能技术和强人工智能技术一般来说，可以将人工智能技 术分为弱人工智能技术和强人工智能技术。其中，弱人工智能技术一般赋予机器的是

6、某种既定的、事先设定好了的程序指令，它只能对特定的外界刺激做出相应的反应，而不能自己去改变。弱人工智能技术“ 根本没有意向状态，它只是受电路和程序支配 简单地来回运动而已”，故其所表 现出的智能及行为通常能够被人类控制，对人类并不会造成威 胁。弱人工智能技术不能使机器像人类那样通过自我学习来提高自己的智能，且缺乏自我意识更没有主动性而言。强人工智能技术则不同，强人工智能技术能够对外界环境的变化与刺激产生自我意识，且能够对这些变化和刺激 进行分析、推理及判断。强人工智能技术 通常分为两种：一种是类人的人工智能技术，即 这类机器有着与人类相似的 推理能力和思维方式；另一种是非类人的人工智能技术，即

7、 这类机器具有自己的推理能力和思维方式，并有知 觉和自我意识。强人工智能技术 具有极大的智能可以从其行为方式上得到体现：要么会按照人预先设定的指令具体去做什么，要么就根据具体环境的需要去做什么，它通常能够主动完成任务，而且其表现出的行 为可以不按照人类事先设计好的程序来执行。对于弱人工智能技术的伦理讨论是没有意义的，所以本文要讨论的是强 人工智能技术的伦理问题。1.2 另一种人工智能的划分方式或者我们可以将人工智能划分为三个基本层次以及更高的层次。 2 1信息收集辅助与智能筛选信息收集辅助与智能筛选是最基础的人工智能服务，现在已经被广泛使用。如目前的各类搜索引擎，其内在都是采用智能化的搜索机器

8、人算法，在广域的网络中不断读取分析，并汇集而来。当用户在使用搜索引擎时，根据用户的搜索习惯，给出相对最有可能满足用户需求的排序结果。不同的个体在使用同样的关键词进行检索时，会得到不同的结果。因此，从这个意义 而言，最基础的人工智能早已经进入人类社会中。信息收集辅助与智能筛选看似是最简单的人工智能领域，然而其难度和复杂度并不 简单。关键的难度在于在大数据时代，如何有效地快速获取最有价值的信息。因此，如前所述，大数据时代所产生的海量数据，是促生人工智能领域的最初和最重要的驱动。在 这一层面，人工智能可以广泛应用于各 类信息获取需要的服务和反馈。2. 识别应答接受模糊任务并完成人工智能的早期使用如搜

9、索数据，其最基础的命令输入依然是要用固定形式的格式化命令来实2016年 11月 董正宇 人工智能的伦理问题研究4 / 8现的。如搜索引擎的“ 关键字 + 搜索” 就是一种格式化命令。然而人工智能的进一步发展， 是要求机器能够识别人类相对较为模糊的自然语言命令并做出有效反应和完成工作。在接到命令后，可以调动之前的搜索功能提供信息，或者驱 动行为部件实现特定动作。如人员可以命令“ 帮我找到信息”，“帮我提供方案” 等，机器则自动实现有效信息和动作的反馈。在这一层 面上，人工智能将更广泛地替代传统僵化的人 与机器的交互形式，以声音、图像、动作等多种交互手段，并为人类提供更有效的决策与行 为方案参考并

10、根据人的命令指示而完成工作。3. 自主的判断与决策人工智能的第三个层面是要实现机器的自主判断决策和相应的行为。在 这一层面中，机器可以根据环境条件的 变化自主决定最优的行动方案，从而在更大程度上模 拟和替代人的行为，并形成对前两个 层面能力实现统合，形成完整的人工智能功能体。目前广泛所知的阿尔法狗程序就是在这一层面的探索，其他如车载自动驾驶 ，自主无人机以及更广泛的人形机器人，都要在一定程度上实现自主的判断与决策。 以上就是人工智能的三个最基本的层次，当然，人工智能最高的层 次是实现机器自主意识的出现。这将远超机器 拥有自主的判断与决策能力 层面，是否人能够设计或者机器将自我演化形成具有类似人

11、的自我意识乃至情绪、情感、好恶， 将依然是一个极为难以判断的问题。也将产 生更多的社会影响，包括自主意识的机器智能体是否 还是机器和基本权利问题等等。2.人工智能的发展现状人工智能技术作为一项综合性很强的技术，其发展到目前，主要应用领域有：专家系统、人工生命、模式识别 、定理证明、机器人学、机器学习、自动程序设计、自然语言处理、问题求解、人工神经网络、智能决策系统等。人工智能正在经历由弱人工智能向着强人工智能的转变。以谷歌的最新人工智能程序 Alpha GO为例，其依靠两个“ 大脑“来进行整个围棋中的思维过程：落子选择器（move picker）和棋局评估器（position evaluato

12、r）。落子选择器基于大数据和云计算对于落子概率进行评估，而棋局评估器针对落子选择 器所选择的可能结果进行分析评估双方获胜的可能性在反馈给落子选择器。通过这样 大量的运算，来确定对自身最为有利的方案来进行棋局。其本质是利用了云计算的强大计算能力来进行一种优选后的穷举运算， 这种做法仍然不足以称为”思 维“ ，但是优选这一过程无疑是向着这一方向迈出的重要一步。总体来说，人工智能存在于现 代生活的方方面面，但是人工智能技术 仍然没有在“能力“到”智力 “的进程上取得突破性进展。2016年 11月 董正宇 人工智能的伦理问题研究5 / 83.人工智能的未来发展由于本文需要讨论的是人工智能的伦理问题，所

13、以在这里只探讨会 产生伦理问题的强人工智能的发展问题，尤其是使人工智能拥有类似人类思维能力和情感的人工智能的发展。要做到拥有类似人类思维能力的人工智能，现阶段有两种方式是最 为可能的：其一，是通过大量的电子元器件完全模拟人类的脑神经网络，神经的 兴奋和抑制恰好可以与电路的高电频和低电频对应即其很好的对应了计算机的以二进制为基础的语言。目前，人类已经成功的模 拟了小鼠的大脑使得电子的小鼠脑产生了与实际小鼠大脑相似的电波。这种方式理 论上可以制造出真正的人造人脑，但是，这 种方式的问题也是明显的，即这样的人造人 脑在无法自行建造的情况下，只能使其拥有人 类某一特定状态的思维能力，没有直接以神 经网

14、络模拟的形式来获取新知识的能力。其二，是制造可以不断自我更新自我进化的人工智能，随着人工智能的不断的自我进化，其可以产生基于机器自身的 逻辑体系和思维方式。这种思维方式会与人 类的思维方式是有区别的，但是由于这 种形式的人工智能是程序不断自我完善的产物，所以，其思维模式等特征是较难预估的， 这便产生了人类无法控制人工智能发展的可能性。而且，零星的偏移就可能产生蝴蝶效应式的巨量偏移，其对人类社会的存在造成的影响是不可预知的。总的来说，拥有人类情感的人工智能是可能的，但是仍面临着技术难 关和道德伦理问题。4.人工智能的道德伦理问题这部分将就几个随着人工智能的发展可能浮现出的问题进行讨论。4.1 思

15、维存在是否人就存在 33D 活动模拟图在结构上与人 脑皮层相同，如果复制后的 “电子人 脑” 能够产生思维意识，思维的存在是否就是人的存在呢 ?一方面认为思维的存在不等于人的存在。人是一种自然存在物自然属性是人存在的基本属性人的自然性首先是指 人对于生命的拥有。正如马克思指出： “人直接地是自然存在物。而且作为有生命的自然存在物。 ”一个人如果离开了 对 于自己生命的拥有，那么他将不复存在。因此，人的存在首 先是对自身生命和身体的拥有。其次，在自然存在的前提下，人是一种社会存在物和精神存在物社会属性和精神属性是人类特有的属性。人作 为社会动物，必然在相互交往的过程中发生人与人之间、人与社会之间

16、的联系。马克思 说：“ 人的本质并不是单个人所固有的抽象物，在其 现实性上，它是一切社会关系的总和。 ”同时马克思实践唯物主义强调实践作为人的存在的基本方式，是实践创造人本身。人类的思维意识在实践活动中得到了丰富，并且 实践使人的活动具有社会性。人的存在既是人的自然属性、社会属性和精神属性的统一又是认识活动、 实践活动的统一。然而， “电子人脑”仅仅复制的是人脑的承载思维的物质基础。没有了生命和身体，离开自然环 境，脱离了社会环境。即使存在思维意识也将 变得孤立，认识无从谈起，实践无从谈起。更不能当作是人的存在。另一方面，认为思维的存在即人的存在。黑格尔认为人的本质是一个能够“思考自己”，即具

17、有自我意识的精神实体，是一个能够摆脱物质必然性的束缚而实行独立自决的自由的精神实体，人即精神，精神即人。宗教哲学中将人看做是有灵魂的生物，他们认为每个人都是有灵魂的，灵魂所指就是人类的思维意识。同样，在医学界有着“脑死亡”2016年 11月 董正宇 人工智能的伦理问题研究6 / 8的说法，思维活动的停止标志着生命的完 结。因此，在某种程度上来说，思维意识更是标志一个人存在而永恒不变的东西，思 维的存在即人的存在。 “电子人脑”即使不能达到与人类相同程度的思维意识。即使是低一 级或者迟钝的思维意识，都同样可以看做强 AI 研究的成功，因为思维意识产生规律的 发现将使人工智能逐渐向着人类智能迈进，

18、而且将来 为“电子人脑”安装各种传感设备 来 代替人类感觉器官是极为容易的事情，接收外界 环境的感知也将不再是难题，那么高 级智能的产生也将仅仅是时间问题。 其次，网络技术的普及和发展使得网络对人们的影响不断加深，如今人们除了现实存在外，还在虚拟世界里有着虚拟存在，通过网络 ，人 们能足不出户对客观世界进行认识与实践，或者 说认识方式与实践方式随着网络技术的发展而改变。 第一，通过网络。人们能够对想要了解的事物有一个基本的认识。网上交流、聊天能获得自己需要的信息，并建立起新的社会关系。第二，通过网络。改变了人类的实践方式。人类的实践 活动是一种目的性活动。列宁曾经简洁地提出一个公式：“人的实践

19、=要求+ 外部现实性 ”问。网络恰好 满足这种“要求和外部现实性” ，为虚拟实践提供可能。因此，我们可以设想如果 “电子人脑” 与网络相联接即使在缺少自然生命和身体的情况下。其思维意识同样能够与 现实社会的人沟通、交流并在网上进行认识实 践活动，如在网上实现现实物品的买卖、网 络视频会议等。而且认识实践活动中将逐步建立起相 应的社会关系。其社会属性和精神属性都将得到实现，如果那样我们还能将 这些没有生命的“电子人脑”当作机器看待吗 ?4.2 有感情有意识的人工智能是否应该享有人权假设某一人工智能可以拥有和人类一样的情感和意识，那么对于该 人工智能体的界定便面临了巨大的挑战。人 类是否应该仅仅作

20、为其创造者的身份与该人工智能相处？该人工智能是否应该享有同人类相同各种权利？当这样的人工智能体的数量极其稀少时这样的问题并非明显，但是一旦 拥有自我意识的人工智能数量达到一定限度时，矛盾便凸显了出来。对于拥有自我意 识的人工智能在社会中的地位界定是需要提前进行的，只有拥有了正确的明确定位后，拥有自我意识的人工智能体才不会给社会的健康发展带来不利影响。什么才是对于人工智能正确的定位？绝不是简单的使其拥有和普通人类完全相同的人权。做一个极端情况的假 设，由于人工智能在大量领域能力是远远超过人类所具备的能力的，以个体的利己性 进行考量，人工智能体在择偶市场上可能会拥有超过大多数人类的竞争力，这种平等

21、，极有可能对人类自身的生存和发展造成不良的影响。但是，直接将有情感的人工智能体放在低于人类的地位上同样是不可取的。无数的 历史事实告诉我们，阶级的不平等必定 带来反抗。人类究竟应该如何看待拥有人类情感的人工智能，人类应该如何与人工智能体共 处，这将是人类在人工智能发展道路上必须要面对的问题。2016年 11月 董正宇 人工智能的伦理问题研究7 / 84.3 具备自我改造进化能力的人工智能的危险性在之前对于人工智能的未来发展的部分中已经提及了不断自我进化的的人工智能的不确定性。这种不确定性是危 险的，其危险性不仅在于在不进行人为干预的条件下其自我进化的不可预知性，更在于人 为对机器自我进化干预的

22、困难性和不可预知性。在不进行人为干预下的不可预知性较容易理解，它是由于在不断的自我进化中，任何微小的改变都有可能由于多次的自我改造而造成巨大的差别。而人为干 预的困难性主要体现在人工智能体可能出现的对人为干预的改造的抵触以及其指数增长的进化速度。而人为干预的不确定性主要在于干 预后人工智能体对于人为干扰的响应不确定性。5.结语人工智能技术是人类智慧的体现，如果应用得当，无疑可以有效的推 动人类文明的发展。但是，在发展人工智能技 术时，需要对其未来可能带来的问题进行充分考量， 这样才能更好的让人工智能服务人类。2016年 11月 董正宇 人工智能的伦理问题研究8 / 8参考文献：1 武汉理工大学 李俊平人工智能的伦理问题及其对策的研究.2 何哲 人工智能时代的政府适应与转型.3武汉科技大学 龚园人工智能的哲学思考.