构造汉语的统计计算语言模型.ppt

1、汉字编码,1,汉字编码,汉字编码,2,汉字编码现状及其根源,多种编码方案共存，不利于交流和共享新旧标准同台使用，需相互转换统一标准正在形成中、日、韩、新等多国同时使用汉字简繁体汉字并存地区、国家间的文化、政治差异增加了汉字统一编码的难度,汉字编码,3,主要汉字(文字)编码标准与规范,ASCII(英文)GB2312GBKGB13000GB18030BIG5Shift_JISISO/IEC 10646Unicode,汉字编码,4,汉字的几种通行名称,Hanzi,Hantsu,汉字Ideographic character,表意字符，中文字符Kanji-日文中的叫法Hanja-朝鲜文中的叫法CJK-

2、中日韩通用字符集Unihan,汉字编码,5,ASCII码,美国信息交换标准编码(“美标”)用从0到127的128个数字来代表信息的规范编码包括33个控制码，一个空格码，和94个形象码形象码中包括了英文大小写字母，阿拉伯数字，标点符号等国际上大部分电脑的通用编码,汉字编码,6,文本文件与二进制文件,字符大都是用一个八位二进制数字表示，美标只规定了128个编码，剩下的另外128个数码没有规范，美标中的33个控制码，各厂家用法也不尽一致文本文件(ASCII Text Files) ：美标形象码或空格码组成，通常可在不同电脑系统间直接交换二进制文件(Binary Files) ：含有控制码或非美标码的

3、文件，通常不能在不同电脑系统间直接交换,汉字编码,7,国标、区位、“准国标” 、机内码,国标：中华人民共和国国家标准信息交换用汉字编码国标(GB2312-80)表（基本表）把七千余汉字、以及标点符号、外文字母等，排成一个94行、94列的方阵每一横行叫一个“区”，每个区有九十四个“位”一个汉字在方阵中的坐标，称为该字的“区位码”例如“中”字在方阵中处于第区第位，它的区位码就是5448,汉字编码,8,区位码表,区位码来源于信息交换用汉字编码字符集（基本集）国家标准(GB2312-80)，该标准收汉字6763个，第一级3755个，位于16至55区，55区的最后5个字符没有定义；第二级3008个，位于

4、56至87区第一级汉字按照汉语拼音字母顺序排列，同音字以笔形顺序横（一）、直（丨）、撇（丿）、点（丶）、折（乙）为序。起笔相同按第二笔，依次类推。第二级汉字按部首排序，本标准采用的部首与一般字典用的部首基本相同，略有改变。部首次序及同部首字按笔划数排列，同笔划数的字以笔形顺序横（一）、直（丨）、撇（丿）、点（丶）、折（乙）为序。起笔相同按第二笔，依次类推。查表时先查区号，再查行、列，例如：“、”是0102，“蔼”是1610。,汉字编码,9,例,汉字编码,10,例,汉字编码,11,例,汉字编码,12,例,汉字编码,13,例,汉字编码,14,例,汉字编码,15,国标、区位、“准国标”、机内码,94

5、:美标中形象码的总数,33-126 汉字区、位码各加上32，就会与美标形象码的范围重合,称为该字的“国标码”,与其相对应的两个美标符号，为该字的“国标符” 如何区分国标符与美标符：国标码的两个数字各加上128，称“准国标”或“机内码”机内码=（区位码）H + 8080H +2020H,汉字编码,16,BIG5码,针对繁体汉字的编码，在台湾、香港的电脑系统中得到普遍应用,汉字编码,17,ISO/IEC 10646,一个国际标准编号,国际标准化组织（ISO）1993年正式颁布 英文全称：Information technology - Universal Multiple - Octet Code

6、d Character Set,简称UCS 中文全称：信息技术-通用多八位编码字符集，亦称大字符集宗旨:全球所有文种统一编码,汉字编码,18,Unicode,英文Universal Code的缩略语统一编码是对国际标准ISO/IEC 10646编码的一种称谓是一个企业联盟集团的名称,由美国的HP、Microsoft、IBM、Apple等几家知名的大型计算机企业所组成,成立该集团的宗旨就是要推进多文种的统一编码就内容而言，Unicode和ISO/IEC 10646是一致的，并行的,汉字编码,19,CJK-中日韩统一汉字,把中国、日本与韩国的英文称谓的首字母用于ISO/IEC 10646中的中、日

7、、韩统一编码汉字的简称UnihanCJKV或许更准确，V代表越南,汉字编码,20,ISO/IEC 10646 的体系结构,四维的编码空间总体上分为128个三维组（group）, group的值范围是从00到7F 每一组包含256个平面(plane)，每一个平面包含256行(row)，每一行包含256个字位(cell)，又称为“列”,plane、row、cell的值范围都是从00到FF全编码整个编码字符集的每个字符都是由4个八位序列表示,(按照组八位、面八位、行八位、列八位的顺序) 可编码空间为：128X256X256X256=32KX64K,汉字编码,21,ISO/IEC 10646体系结构图

8、,汉字编码,22,基本多文种平面,第一个平面（00组中的00平面）称作Basic Multilingual Plane(基本多文种平面)，简称BMP，并在其上规定了双八位形式，它可以作为双八位编码字符集使用,即在此平面上仅用行、列两个八位就可以表示一个编码字符,汉字编码,23,BMP的最新概貌,A-Zone(00至4D行) ：拼音文字编码区,拉丁文、阿拉伯文、日文的平假名及片假名、数学符号等都在此区域编码CJK Unified Ideographs，Extension A(3400-4DB5)(6000多码位 )CJK Unified Ideographs(4E00-9FA5)(20902个编

9、码汉字 )韩文 (AC至D7这44行（44X256=11264）)S-ZONE (D8至DF行)for UTF-16R-Zone(E0至FF行):限制使用区，一些兼容字符、字符的变形显现形式、特殊字符等均放在此区,汉字编码,24,ISO/IEC 10646空间分配现状,00平面:BMP，被用于全球现已规范语种的基本文字编码，编码空间已基本饱和01平面:作为拼音文字辅助平面02平面:作为汉字辅助平面，CJK Extension B即将放入该平面E0至FF平面:作为该标准的专用平面来使用 其它空间尚未分配,汉字编码,25,ISO/IEC 10646中CJK汉字组成,CJK统一编码汉字（20902）

10、CJK扩充集A(6585)CJK扩充集B(4万-),汉字编码,26,什么是UTF?,Unicode transformation formatUCS transformation format从Unicode码点到唯一字节序列的映射算法，一一映射，保证无损转换,汉字编码,27,UTF-16,Unicode标准的16位编码形式为每个字符指定一个16位的值编码形式与ISO/IEC 10646中的定义形式相同以一个16位的值来编码映射到不大于65535数值的字符，映射到大于65535的数值的字符则被编码成一组16位的值（代用对）,汉字编码,28,UTF-8,为满足面向字节、基于ASCII码系统的需要

11、而制定(主要用于数据传输、互联网)用最多达4个字节的序列来表示每个字符，为有效分析字符串，用第一个字节指明某个多字节序列中的字节数通常用于数据交换,汉字编码,29,UTF-32,每个字符都表示成一个32位的整数码长相等，便于某些特殊情况的处理Unix系统使用,汉字编码,30,字节顺序标记(BOM),指示处理器怎样把连续的文本放到一个字节序列中权值最低的字节位于开头叫做“little-endian”,权值最高的字节位于开头叫做“big-endian”可用作识别文本文件编码形式的依据,汉字编码,31,Windows对Unicode的支持,Windows 3.1, Windows NT 4, Win

12、dows 2000, Windows XP支持Unicode.如果在这些操作系统上运行非Unicode编码程序，在处理之前，操作系统在其内部将应用程序的文本转化为Unicode编码的文本，在把信息传回应用程序之前，操作系统把Unicode编码的文本转化回所希望的代码页编码形式。Windows 95, Windows 98, Windows Me不是基于Unicode的，它们只提供了基于Windows NT的Windows版本所提供的Unicode支持的一个子集,汉字编码,32,GBK,汉字内码扩展规范，Rules/Specifications defining the extensions o

13、f internal codes for Chinese ideograms为了推进Unicode的实施，同时也是为了向下兼容,由电子部与国家技术监督局联合颁布 在保持GB2312原貌的基础上，将其字汇扩充与ISO 10646中的CJK等量，同时也包容了台湾的工业标准Big5码汉字，此外还为用户留了1894个码位的自定义区,汉字编码,33,GB18030-2000,信息技术-信息交换用汉字编码字符集-基本集的扩充，Information technology-Chinese ideograms coded character set for information interchange-Ex

14、tension for the basic setGBK的替代、超集,汉字编码,34,GB18030-2000,完全包含CJK(Unihan) Extension A与GBK完全兼容(code- and character- compatible)的同时，为所有其它Unicode码点提供了空间定义了4字节编码机制,汉字编码,35,GB18030-2000码位范围分配表,2字节编码共23940个码位4字节编码共超过150万个码位,汉字编码,36,ISO 10646/Unicode的实现及其重要意义,在全球范围内建立起实时、无障碍的信息交换模式推动了汉字典籍的数字化为数字化图书馆的建立铺平了道路为弘扬汉字文化提供了舞台Single Binary技术的诞生：同一套基本程序用于多个语言环境的技术使汉字关联活起来：正-异关联、中-日关联、繁-简关联，正-讹关联以及古今、新旧字形关联,