1、绪 论,2018/10/9,史忠植 高级人工智能,1,史忠植中国科学院计算技术研究所,高级人工智能第一章,2018/10/9,史忠植 高级人工智能,2,第一章 绪 论,1.1 人工智能的发展概况1.2 人工智能的认知问题1.3 思维的层次模型1.4 符号智能 1.5 人工智能的研究方法 1.6 自动推理 1.7 机器学习 1.8 分布式人工智能1.9 智能系统,2018/10/9,史忠植 高级人工智能,3,Computer: High performance Low intelligence,Cite fromScientific American,2005(3),重大挑战,人类大脑计划Hum
2、an Brain Project,2018/10/9,4,史忠植 心智计算,Henry Markram,2013年1月28日,欧盟启动了旗舰人类大脑计划:“The Human Brain Project”, 未来10年投入10亿欧元的研发经费。目标是:用超级计算机多段多层完全模拟人脑,帮助理解人脑功能。,运用先进创新型神经技术的大脑研究(BRAIN),2018/10/9,5,史忠植 心智计算,2013年4月2日,美国总统奥巴马宣布一项重大计划,将历时10年左右、总额10亿美元的大脑研究(BRAIN),目标是研究数十亿神经元的功能,探索人类感知、行为和意识,希望找出治疗阿尔茨海默氏症(又叫老年痴
3、呆症)等与大脑有关疾病的方法。,2018/10/9,史忠植 高级人工智能,6,智能机器,5thc B.C. Aristotelian logic invented1642 Pascal built an adding machine1694 Leibnitz reckoning machine,2018/10/9,史忠植 高级人工智能,7,智能机器,1834 Charles Babbages Analytical Engine,The picture is of a model built in the late 1800s by Babbages son from Babbages draw
4、ings.,2018/10/9,史忠植 高级人工智能,8,布尔逻辑,1848 George Boole The Calculus of Logic,chocolate nutsmint,chocolate and nuts and mint,2018/10/9,史忠植 高级人工智能,9,20世纪初的数学基础,1900 Hilberts program and the effort to formalize mathematics 1931 Kurt Gdels paper, On Formally Undecidable Propositions 1936 Alan Turings paper
5、, On Computable Numbers with an application to the Entscheidungs problem,2018/10/9,史忠植 高级人工智能,10,图灵测试,The Turing Test,1950: Alan Turing的文章 “Computing Machinery and Intelligence.” Mind, Vol. 59, No. 236, pp. 433-460提出图灵测试,2018/10/9,史忠植 高级人工智能,11,人工智能的诞生,1956: 世界上第一次正式的AI会议美国的Dartmouth College,为期2月Joh
6、n McCarthy 正式提出“Artificial Intelligence”这一术语 著名参加者:J.McCarthy、C.Shannon、M.Minsky、N.Wiener、W.McCulloch、S.Papert,2018/10/9,史忠植 高级人工智能,12,人工智能的发展,1958: Newell和Simon的四个预测十年内,计算机将成为世界象棋冠军十年内,计算机将发现或证明有意义的数学定理十年内,计算机将能谱写优美的乐曲十年内,计算机将能实现大多数的心理学理论1959: Frank Rosenblatt提出感知器模型(Perceptron Model) 1959: MIT AI
7、Lab正式成立(Minsky和McCarthy),2018/10/9,史忠植 高级人工智能,13,人工智能的发展,专家系统时期1962: McCarthy调到Stanford, 1963年创建Stanford AI Lab1963: M. Ross Quillian开创语义网络(Semantic Nets)1965: Feigenbaum 掌管 Stanford AI Lab; Noftsker 掌管 MIT AI Lab1965: MIT的Joseph Weizenbaum研制出ELIZA用英语进行交互回答任何问题1965-83: Feigenbaum和Lederberg启动DENDRAL工
8、程1966: ALPAC的负面报告造成 美国政府取消对机器翻译的资助1969: Minsky 和 Papert的感知机造成美国政府取消对神经网络研究的资助。结论:有限阶感知机仅能识别出Euler数,不能识别其他的拓扑不变性1969: SRI研制出机器人Shakey具有运动、感知和问题求解能力,2018/10/9,史忠植 高级人工智能,14,人工智能的发展,自然语言处理1970: Stanford的Terry Winograd等研制出(ETAOIN) SHRDLU接受自然语言命令操作积木块1970: Colmerauer研制出PROLOG语言的解释系统不久,爱丁堡大学的Warren实现了编译系统
9、1972: DARPA取消Stanford大学机器人研究(Shakey)的资助。1972: Mycin工程启动1973: James Lighthill爵士的负面报告使得英国政府取消对AI研究的资助“人工智能研究是不成功的,不值得政府资助。”英政府接受了此报告的观点。从那时起至今,英国AI研究一蹶不振。1976: DARPA 取消对语音识别研究的资助1976: Greenblatt研制出第一台LISP机CONS,2018/10/9,史忠植 高级人工智能,15,人工智能的发展,1976: Doug Lenat的数学积分系统AM (Automated Mathematician)1977: SRI
10、启动 PROSPECTOR 工程帮助地质专家探测和解释矿物1978年发现钼矿脉(molybdenum vein)1977: Edward Feigenbaum正式提出知识工程作为一门学科在1977年IJCAI会议上 1979: Stanford研制出第一台计算机控制的汽车(Stanford Cart)1980: 第一届美国AI协会会议(AAAI)在Stanford召开。1980: John McDermott的XCON专家系统用于配置 VAX 机器系统,2018/10/9,史忠植 高级人工智能,16,人工智能的发展,知识工程时期1981: 日本政府宣布日本五代机(first-generatio
11、n computer)计划(即智能计算机)1982: John Hopfield 掀起神经网络的研究1983: MCC (Microelectronics and Computer Technology Corporation)成立(Bobby Inman 任主任)1984: Doug Lenat在Bobby Ray Inman的劝说下在MCC开始Cyc的研究1986: Thinking Machines Inc 研制联结机器 (Connection Machine)1987: LISP机器市场开始暗淡1988: 386芯片使得PC机速度可以与LISP机器媲美,2018/10/9,史忠植 高级
12、人工智能,17,人工智能的发展,分布智能1992: 日本政府宣布五代机计划失败。随后启动RWC计划(Real World Computing Project)1993: Shoham提出AOP,Agent-Oriented Programming1994: 中科院计算所多主体系统1997: IBM 深蓝II (Deep Blue)击败Garry Kasparov2000: Jade,Jack, Zeus, AgentBuild 中科院计算所多主体环境MAGE,2018/10/9,史忠植 高级人工智能,18,人工智能的发展,机器学习和数据挖掘1989:数据集知识发现KDD1991:Pawlak
13、粗糙集专著1992:波兰Kiekrz召开第一届粗糙集国际讨论会1995: Vapnik提出SVM 2000: 知识发现系统MSMiner2005:第一届IEEE国际粒度计算大会在北京召开2012:纽约时报网站刊载文章称,“大数据时代”已经降临。 2012年3月29日,美国政府拨款2亿美元启动“大数据研究 和发展倡议”计划,2018/10/9,史忠植 高级人工智能,19,人工智能的发展,智能信息处理 1986:鲁梅尔哈特(Rumelhart) 和 麦克莱伦德 (McClelland) 等人提出并行分布处理(Parallel Distributed Processing, 简称PDP) 的理论19
14、87:在美国召开了第一届神经网络国际会议,并发起成立国际 神经网络学会(INNS)1990:中国神经网络首届学术大会1992:国际神经网络学会、IEEE神经网络学会、中国神经网络学 会等联合在中国北京召开了神经网络国际会议2000: 中科院智能信息处理重点实验室 IFIP 智能信息处理国际会议,2018/10/9,史忠植 高级人工智能,20,人工智能的发展,智能科学2002: 提出智能科学新概念 建立智能科学网站 :/ 出版智能科学专著2008:新加坡世界学术出版社出版智能科学系列 丛书2010: 智能科学刊物IJIS2013:IJCAI-13 WIS2013 智能科学专题研讨会,2018/1
15、0/9,史忠植 高级人工智能,21,人工智能的基础, 认知科学 脑科学 逻辑,2018/10/9,史忠植 高级人工智能,22,认知科学,认知科学研究是“国际人类前沿科学计划”的重点。认知科学及其信息处理方面的研究被列为整个计划的三大部分之一(其余两部分是“物质和能量的转换”、“支撑技术”);“知觉和认知”、“运动和行为”、“记忆和学习”和“语言和思考”被列为人类前沿科学的12大焦点问题中的4个。近年来,美国和欧共体分别推出“脑的十年”计划和“EC脑的十年计划”。日本则推出雄心勃勃的“脑科学时代”计划,总预算高达200亿美元。在“脑科学时代”计划中,脑的认知功能及其信息处理的研究是重中之重。,2
16、018/10/9,史忠植 高级人工智能,23,认 知,认知是和情感、动机、意志等相对的理智或认识过程。 美国心理学家Houston等人将对“认知”的看法归纳为如下五种主要类型: (1) 认知是信息的处理过程; (2) 认知是心理上的符号运算; (3) 认知是问题求解; (4) 认知是思维; (5) 认知是一组相关的活动,如知觉、记忆、思维、判断、推理、问题求解、学习、想象、概念形成、语言使用等。,2018/10/9,史忠植 高级人工智能,24,认 知,认知心理学家Dodd等则认为,认知应包括三个方面,即 适应 结构 过程。 也就是说,认知是为了一定的目的,在一定的心理结构中进行的信息加工过程。
17、,2018/10/9,史忠植 高级人工智能,25,认知科学,认知科学探索人类的智力如何由物质产生和人脑信息处理的过程。具体地说,认知科学是研究人类的认知和智力的本质和规律的前沿科学。认知科学研究的范围包括知觉、注意、记忆、动作、语言、推理、思考、意识乃至情感动机在内的各个层面的认知活动。,2018/10/9,史忠植 高级人工智能,26,认知科学,认知科学是研究人类感知和思维信息处理过程的科学, 包括从感觉的输入到复杂问题求解, 从人类个体到人类社会的智能活动, 以及人类智能和机器智能的性质。认知科学是现代心理学、信息科学、神经科学、数学、科学语言学、人类学乃至自然哲学等学科交叉发展的结果。它是
18、人工智能重要的理论基础。,2018/10/9,史忠植 高级人工智能,27,人工智能的五个基本问题,(1) 知识与概念化是否是人工智能的核心? (2) 认知能力能否与载体分开来研究? (3) 认知的轨迹是否可用类自然语言来描述? (4) 学习能力能否与认知分开来研究? (5) 所有的认知是否有一种统一的结构?,2018/10/9,史忠植 高级人工智能,28,思维的层次模型,思维是客观现实的反映过程,是具有意识的人脑对于客观现实的本质属性、内部规律性的自觉的、间接的和概括的反映。 人类思维的形态主要有 感知思维 形象思维 抽象思维 灵感思维,2018/10/9,史忠植 高级人工智能,29,思维的层
19、次模型,抽象思维,形象思维,感知思维,外界信号,注意,2018/10/9,史忠植 高级人工智能,30,感知思维,是一种初级的思维形态。在人们开始认识世界时,只是把感性材料组织起来, 使之构成有条理的知识, 所能认识到的仅是现象。在此基础上形成的思维形态即是感知思维。人们在实践过程中,通过眼、耳、鼻、舌、身等感官直接接触客观外界而获得的各种事物的表面现象的初步认识, 它的来源和内容都是客观的、丰富的。,2018/10/9,史忠植 高级人工智能,31,形象思维,形象思维主要是用典型化的方法进行概括,并用形象材料来思维,是一切高等生物所共有的。形象思维是与神经机制的连接论相适应的。模式识别、图象处理
20、、视觉信息加工都属于这个范畴。,2018/10/9,史忠植 高级人工智能,32,抽象思维,抽象思维是一种基于抽象概念的思维形式,通过符号信息处理进行思维。只有语言的出现,抽象思维才成为可能,语言和思维互相促进,互相推动。可以认为物理符号系统是抽象思维的基础。,2018/10/9,史忠植 高级人工智能,33,灵感思维,对灵感思维至今研究甚少。有人认为, 灵感思维是形象思维扩大到潜意识,人脑有一部分对信息进行加工, 但是人并没有意识到。也有人认为, 灵感思维是顿悟。灵感思维在创造性思维中起重要作用, 有待进行深入研究。,2018/10/9,史忠植 高级人工智能,34,人工智能,智能是什么? 智能是
21、个体有目的的行为、合理的思维, 以及有效的适应环境的综合性能力。通俗地说, 智能是个体认识客观事物和运用知识解决问题的能力。人类个体的智能是一种综合性能力, 具体讲, 可以包括感知与认识客观事物、客观世界与自我的能力; 通过学习取得经验、积累知识的能力; 理解知识、运用知识和运用经验分析问题和解决问题的能力; 联想、推理、判断、决策的能力;运用语言进行抽象、概括的能力; 发现、发明、创造、创新的能力;实时地、迅速地、合理地应付复杂环境的能力;预测、洞察事物发展变化的能力等。,2018/10/9,史忠植 高级人工智能,35,人工智能,人工智能(Artificial Intelligence)是相
22、对人的自然智能而言,即用人工的方法和技术,模仿、延伸和扩展人的智能, 实现某些机器思维“。 作为一门学科,人工智能研究智能行为的计算模型,研制具有感知、推理、学习、联想、决策等思维活动的计算系统,解决需要人类专家才能处理的复杂问题。,2018/10/9,史忠植 高级人工智能,36,什么是人工智能,Stuart Russell和Peter Norvig把当前有关AI的定义分成四类 :,2018/10/9,史忠植 高级人工智能,37,类人行为方法,Kurzwell提出人工智能认为人工智能是一门技术,它创造出够完成一定任务的机器,而当我们人类对这些任务进行处理的时候,需要一定的智能。方法: 对于人类
23、做的比较好的智能任务,让计算机来完成最著名的就是Turing测试,定理证明下国际象棋做外科手术诊断疾病 ,2018/10/9,史忠植 高级人工智能,38,Turing测试(1),Alan Turing, “Computing Machinery and Intelligence”, Mind, 59:433 460, 1950.问题: “Can machines think?”为此,Turing设计了著名的Turing Test,2018/10/9,史忠植 高级人工智能,39,Turing测试(2),测试者A,被测试者B与C。A是人,B与C一个是人,另一个是计算机。A提出问题,B与C分别回答。
24、如果B与C的回答,使得A无法区分是人的回答还是计算机的回答,则计算机具有了智能。Turing测试第一次给出了检验计算机是否具有智能的哲学说法。,2018/10/9,史忠植 高级人工智能,40,类人思维方法,Bellman提出人工智能是那些与人的思维、决策、问题求解和学习等有关活动的自动化。主要采用的是认知模型的方法-是关于人类思维工作原理的可检测的理论。 如果说某个程序能够像人一样思考,那么就必须以某种方式确定人是如何思考的。为确定人类思维的内部是怎样工作的,可以有两种方法:通过内省(introspection)-在人思考过程中,掌握人自己的想法;或者通过心理学实验,2018/10/9,史忠植
25、 高级人工智能,41,理性思考方法,1985年Charniak和McDermott提出人工智能是用计算模型研究智力能力。这是一种理性思维方法。一个系统如果能根据它所知的信息(知识、时间、资源等)能够做出最好的决策,这就是理性的当知识是完全的,并且资源是无限的时候,就是所谓的逻辑推理。当知识是不完全的,或者资源有限时,就是理性的行为。,2018/10/9,史忠植 高级人工智能,42,理性行为方法,尼尔森(Nilsson)认为人工智能关心的是人工制品中的智能行为。这种人工制品主要指能够动作的主体(agent)。行为上的理性指的是已知某些信念,执行某些动作以达到某个目标。主体(agent)可以看作是
26、可以进行感知和执行动作的某个系统。在这种方法中,人工智能可以认为就是研究和建造理性主体(agent)。在“理性思维”方法中,它所强调的是正确的推理。做出正确的推理有时被作为理性主体(agent)的一部分。另一方面,正确的推理并不是理性的全部,因为在有些情景下,往往没有某个行为一定是正确的,而其他的是错误的。,2018/10/9,史忠植 高级人工智能,43,人工智能,符号主义 连接主义 行为主义,2018/10/9,史忠植 高级人工智能,44,符号智能,传统人工智能是符号主义,它以Newell和 Simon提出的物理符号系统假设为基础。物理符号系统假设认为物理符号系统是智能行为充分和必要的条件。
27、物理符号系统由一组符号实体组成,它们都是物理模式,可在符号结构的实体中作为组分出现。该系统可以进行建立、修改、复制、删除等操作,以生成其它符号结构。,2018/10/9,史忠植 高级人工智能,45,连接主义,连接主义研究非程序的、适应性的、大脑风格的信息处理的本质和能力。人们也称它为神经计算。由于它近年来的迅速发展,大量的神经网络的机理、模型、 算法不断地涌现出来。神经网络主体是一种开放式的神经网络环境,提供典型的、具有实用价值的神经网络模型。,2018/10/9,史忠植 高级人工智能,46,行为主义,Brooks提出了无需知识表示的智能、无需推理的智能。他认为智能只是在与环境的交互作用中表现
28、出来,在许多方面是行为心理学观点在现代人工智能中的反映,人们称为基于行为的人工智能,简言之,称为行为主义。,2018/10/9,史忠植 高级人工智能,47,智能,符号智能是以知识为基础,通过推理进行问题求解。也即所谓的传统人工智能。计算智能是以数据为基础,通过训练建立联系,进行问题求解。人工神经网络、遗传算法、模糊系统、进化程序设计、人工生命等都可以包括在计算智能。,2018/10/9,史忠植 高级人工智能,48,人工智能的研究方法,认知学派逻辑学派行为学派,2018/10/9,史忠植 高级人工智能,49,认知学派,以Simon, Minsky和Newell等为代表,从人的思维活动出发,利用计
29、算机进行宏观功能模拟。,2018/10/9,史忠植 高级人工智能,50,认知学派,1976年Newell 和Simon提出了物理符号系统假设,认为物理系统表现智能行为必要和充分的条件是它是一个物理符号系统。这样,可以把任何信息加工系统看成是一个具体的物理系统,如人的神经系统、计算机的构造系统等。所谓符号就是模式。任何一个模式,只要它能和其它模式相区别,它就是一个符号。不同的英文字母就是不同的符号。对符号进行操作就是对符号进行比较,即找出哪几个是相同的符号,哪几个是不同的符号。物理符号系统的基本任务和功能是辨认相同的符号和区分不同的符号。,2018/10/9,史忠植 高级人工智能,51,认知学派
30、,80年代Newell 等又致力于SOAR系统的研究。SOAR系统是以知识块(Chunking)理论为基础,利用基于规则的记忆,获取搜索控制知识和操作符,实现通用问题求解。,2018/10/9,史忠植 高级人工智能,52,认知学派,Minsky从心理学的研究出发,认为人们在他们日常的认识活动中,使用了大批从以前的经验中获取并经过整理的知识。该知识是以一种类似框架的结构记存在人脑中。因此,在70年代他提出了框架知识表示方法。到80年代,Minsky认为人的智能,根本不存在统一的理论。1985年,他发表了一本著名的书Society of Mind(思维社会)。书中指出思维社会是由大量具有某种思维能
31、力的单元组成的复杂社会。,2018/10/9,史忠植 高级人工智能,53,逻辑学派,逻辑学派是以McCarthy和Nilsson等为代表,主张用逻辑来研究人工智能,即用形式化的方法描述客观世界。他们认为:(1) 智能机器必须有关于自身环境的知识。(2) 通用智能机器要能陈述性地表达关于自身环境的大部分知识(3) 通用智能机器表示陈述性知识的语言至少要有一阶逻辑的表达能力。逻辑学派在人工智能研究中,强调的是概念化知识表示、模型论语义、演绎推理等。McCarthy主张任何事物都可以用统一的逻辑框架来表示,在常识推理中以非单调逻辑为中心。,2018/10/9,史忠植 高级人工智能,54,行为学派,智
32、能只是在与环境的交互作用中表现出来,其基本观点:(1) 到现场去;(2) 物理实现;(3) 初级智能;(4) 行为产生智能。,2018/10/9,史忠植 高级人工智能,55,自动推理,演绎推理(deductive reasoning) 归纳推理(inductive reasoning) 反绎推理(abductive reasoning),2018/10/9,史忠植 高级人工智能,56,自动推理,从一个或几个已知的判断(前提)逻辑地推论出一个新的判断(结论)的思维形式称为推理, 这是事物的客观联系在意识中的反映。人解决问题就是利用以往的知识, 通过推理得出结论。自动推理的理论和技术是程序推导、程
33、序正确性证明、专家系统、智能机器人等研究领域的重要基础。,2018/10/9,史忠植 高级人工智能,57,自动推理,正向推理(Forward Reasoning)又叫:向前推理、数据驱动的推理定义:从已知的数据/条件/中间结论出发推导出新的结论,1. A G12. A G13. B G24. B G25. G1 & G2 G,2018/10/9,史忠植 高级人工智能,58,自动推理,反向推理(Backward Reasoning) 又叫向后推理、面向目标的推理定义:从结论(目标)出发推导结论(目标)的前提条件,1. G G1 & G22. G1 A 3. G1 A 4. G2 B5. G2 B
34、,2018/10/9,史忠植 高级人工智能,59,机器学习,Simon对学习的定义是:“如果一个系统能够通过执行某种过程而改进它的性能,这就是学习”。这个说法的要点是:学习是一个过程,其二,学习是对一个系统而言,其三,学习改变系统性能。过程、系统与改变性能是学习的三个的要点。对上述说法,第一点是自然的。第二点中的系统则相当复杂,一般是指一台计算机,但是,也可以是计算系统,甚至包括人的人机计算系统。第三点则只强调“改进系统性能”,而未限制这种“改进”的方法。,2018/10/9,史忠植 高级人工智能,60,机器学习,2018/10/9,史忠植 高级人工智能,61,机器学习,机器学习的研究尚处于初
35、级阶段, 必须大力开展研究的一个人工智能领域。只有机器学习的研究取得进展, 人工智能和知识工程才会取得重大突破。今后机器学习的研究重点是研究学习过程的认知模型、机器学习的计算理论、新的学习算法、综合多种学习方法的机器学习系统等。,2018/10/9,史忠植 高级人工智能,62,机器学习,机器学习的研究尚处于初级阶段, 必须大力开展研究的一个人工智能领域。只有机器学习的研究取得进展, 人工智能和知识工程才会取得重大突破。今后机器学习的研究重点是研究学习过程的认知模型、机器学习的计算理论、新的学习算法、综合多种学习方法的机器学习系统等。,2018/10/9,史忠植 高级人工智能,63,分布式人工智
36、能,自20世纪80年代以来,随着计算机网络、计算机通信和并发程序设计 技术的发展,分布式人工智能逐渐成为人工智能领域的一个新的研究热点。分布式人工智能是人工智能的一个分支,它主要研究在逻辑上或物理上分散的智能动作者如何协调其智能行为,即协调它们的知识、技能和规划, 求解单目标或多目标问题,为设计和建立大型复杂的智能系统或计算机支持协同工作提供有效途径。,2018/10/9,史忠植 高级人工智能,64,人工思维模型,真实世界的所谓柔性问题具有下列特点: (1) 包含意义不明确或不确定信息的各种复杂情况的集成; (2) 主动获取必要的信息和知识,通过归纳学习范化知识; (3) 系统本身能适应用户和
37、环境的变化; (4) 根据处理对象系统进行自组织; (5) 容错处理能力。,2018/10/9,史忠植 高级人工智能,65,人工思维模型,2018/10/9,66,史忠植 高级人工智能,Wikipedia集体智能,Wikipedia集体智能,2018/10/9,67,史忠植 高级人工智能,2018/10/9,史忠植 高级人工智能,68,知识系统(Knowledge-Based Systems),知识系统是把知识以一定的结构存入计算机,进行知识的管理和问题求解, 实现知识的共享。1980年代美国推出 KBMS 软件产品。1990年中国科学院计算所于完成了国家七五重点科技攻关项目知识库管理系统软件 KBMS。2006年,Cycorp发布了ResearchCyc 1.02007年中国科学院计算所 KMSphere,2018/10/9,史忠植 高级人工智能,69,智能系统,单领域知识单处理范型智能系统 多领域知识单处理范型智能系统 单领域知识多处理范型智能系统 多领域知识多处理范型智能系统,2018/10/9,史忠植 高级人工智能,70,Thank You,Question!,Intelligence Sciencehttp:/