文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt

上传人:ga****84 文档编号:429780 上传时间:2018-10-05 格式:PPT 页数:81 大小:1.18MB
下载 相关 举报
文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt_第1页
第1页 / 共81页
文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt_第2页
第2页 / 共81页
文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt_第3页
第3页 / 共81页
文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt_第4页
第4页 / 共81页
文本挖掘与web数据挖掘-学者网-SCHOLAT.ppt_第5页
第5页 / 共81页
点击查看更多>>
资源描述

1、2018/10/5,第8章 文本挖掘与Web 数据挖掘,文本挖掘 Web数据挖掘案例五:跨语言智能学术搜索系统案例六:基于内容的垃圾邮件识别,8.1 文本挖掘,8.1.1 分词8.1.2 文本表示与词权重计算8.1.3 文本特征选择8.1.4 文本分类8.1.5 文本聚类8.1.6 文档自动摘要,2018/10/5,8.1.1 分词,分词(词切分)是指将连续的字序列按照一定的规范重新组合成词序列的过程英文:单词之间以空格作为自然分界符,容易中文:词没有一个形式上的分界符,难中文分词极具挑战性的问题歧义切分问题:研究/生物;学生会|学生会玩魔方未登录词问题:新词(木有、凡客体),人名等分词法主要

2、分为以下三大类:基于词典的方法、基于统计的方法、基于语法分析的方法,2018/10/5,基于词典的分词法,正向最大匹配从左开始算起,最大是指从一个设定的长度开始匹配,直到第一个匹配成功就切分成为一个词逆向最大匹配与正向最大匹配相似,区别在于从右至左匹配例子:研究生命起源正向匹配结果:研究生/命/起源逆向匹配结果:研究/生命/起源特点:简单,易实现;正确率受词典大小限制,2018/10/5,基于统计的分词法,假设:词是稳定的单字组合,直观地,在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典(统计)分词法基于统计模型的分词

3、方法是研究热点,如基于隐马尔可夫的方法、基于最大熵的方法特点:精度高、词性标注、命名实体识别;需要语料作支撑,2018/10/5,基于中文语法的分词方法,通过让计算机模拟人对句子的理解,达到识别词的效果其基本思想就是在分词的同时进行句法、语义分析,利用句法和语义信息来处理歧义现象包括三个部分:分词子系统、句法语义子系统、总控部分特点:由于汉语语言知识的笼统、复杂性,基于理解的分词系统还处在试验阶段,2018/10/5,常见分词工具,ICTCLAS中国科学院计算技术研究所开发采用层叠隐马尔可夫模型中文分词,词性标注,命名实体识别,新词识别支持C/C+/C#/Delphi/Java等主流开发语言i

4、mdict-Chinese-analyzerICTCLAS中文分词程序基于Java的重新实现采用基于隐马尔科夫模型的方法直接为Lucene搜索引擎提供简体中文分词支持,2018/10/5,常见分词工具(续),IKAnalyzer采用特有的“正向迭代最细粒度切分算法”基于Java语言开发的轻量级开源分词工具包60万字/秒的高速处理能力简易中文分词系统SCWShightman 个人开发采用标准C开发提供 C接口、PHP扩展(源码、WIN32的DLL文件),2018/10/5,常见分词工具(续),盘古分词基于.net Framework的中英文分词组件中文未登录词识别、人名识别、多元分词等功能支持英

5、文专用词识别、英文原词输出、英文大小写同时输出等单线程分词速度为390 KB/s,双线程分词速度为690 KB/s( Core Duo 1.8 GHz )其它 Paoding(庖丁解牛分词)、HTTPCWS、MMSEG4J以及CC-CEDICT等,2018/10/5,8.1.2 文本表示与词权重计算,目前文本表示主要是采用向量空间模型(Vector Space Model,VSM)每个文本被表示为在一个高维词条空间中的一个向量词条权重wi,j一般采用TFIDF方法来计算得到,2018/10/5,8.1.3 文本特征选择,文本特征选择是根据某种准则从原始特征中选择部分最有区分类别能力的特征主要分

6、为无监督和有监督的方法常用的方法有以下几种文档频率(Document Frequency,DF)单词权(Term Strength,TS)信息增益(Information Gain,IG)互信息(Mutual Information,MI)期望交叉熵(Expected Cross Entropy,ECE),2018/10/5,基于文档频率的方法,文档频率是指所有训练文本中出现某个特征词的频率是一种无监督的方法通常会分别设置一个小的阈值和大的阈值来过滤一些低频词和频数特别高的词特点优点:简单、易行缺点:低频词有时能很好反映类别信息;忽略了特征词在文档中出现的次数,2018/10/5,基于信息增益

7、的方法,根据某个特征词t在一篇文档中出现或者不出现的次数来计算为分类所能提供的信息量,并根据该信息量大小来衡量特征词的重要程度,进而决定特征词的取舍信息增益是最常用的文本特征选择方法之一特点:该方法只考察特征词对整个分类的区分能力,不能具体到某个类别上,2018/10/5,8.1.4 文本分类,文本自动分类(简称“文本分类”)是在预定义的分类体系下,根据文本的特征(词条或短语),将给定文本分配到特定一个或多个类别的过程基本步骤可以分为三步:将预先分过类的文本作为训练集输入构建分类模型对新输入的文本进行分类常见的算法包括:线性分类器、k最近邻分类器、朴素贝叶斯、决策树、支持向量机分类器,2018

8、/10/5,朴素贝叶斯分类器,贝叶斯分类算法有两种模型:多变量伯努利事件模型和多项式事件模型多变量伯努利事件模型特征词在文本中出现则权重为1,否则权重为0。不考虑特征词的出现顺序,忽略词出现的次数多项式事件模型一篇文档被看作是一系列有序排列的词的集合,2018/10/5,常用基准语料,Reuters-21578是最常用的公开英文语料库21578篇新闻报道135个类别20 Newsgroups是重要的公开英文语料库大致20000篇新闻组文档6个不同的主题以及20个不同类别的新闻组TanCorp是公开的中文基准语料库收集文本14150篇分为两个层次。第一层12个类别,第二层60个类别,2018/1

9、0/5,常用基准语料(续),复旦大学中文文本分类语料库测试语料共9833篇文档,训练语料共9804篇文档包含20个类别其它语料库还包括OHSUMED、WebKB、TREC系列和TDT系列等,2018/10/5,模型评估,文本自动分类通常是不平衡的分类任务,常用的分类准确率(Accuracy)指标并不合适一般使用每个类的F-measure值以及全部类F-measure值的平均来评估算法的性能其中,r表示每个类的召回率(Recall),p表示每个类的精度(Precision),通常取值为1,也就是经常被使用到的F1值,2018/10/5,模型评估(续),语料上的整体性能,通常采用微平均和宏平均方法

10、微平均是根据所有类准确划分文本个数和错误划分文本个数来计算精度和召回率宏平均则是计算每个类别得到的精度和召回率的平均值在不平衡数据分类上,宏平均方法更能反映出分类器的性能。,2018/10/5,8.1.5 文本聚类,自动化程度较高的无监督机器学习方法,不需要预先对文档手工标注类别主要任务是把一个文本集分成若干个称为簇的子集,然后在给定的某种相似性度量下把各个文档分配到与最其相似的簇中相似性度量方法在此过程起着至关重要的作用,2018/10/5,文本相似度计算,方法主要分为两大类:基于语料库统计的方法和基于语义理解的方法基于语料库统计的方法:基于汉明距离和基于空间向量模型的方法汉明距离用来描述两

11、个等长码字对应位置的不同字符的个数,从而计算出两个码字的相似度基于空间向量模型方法是一种简单有效的方法,2018/10/5,文本相似度计算(续),基于语义理解的方法:考虑语义信息的文本相似度计算方法该方法主要分为三大类:词语相似度、句子相似度、段落相似度计算词语相似度往往需要一部语义词典作为支持,目前使用频率最高的语义词典是知网句子相似度计算要通过利用语法结构来分析汉语句子机构相当复杂,段落相似度计算更复杂,2018/10/5,文本聚类过程,以K-means算法详细介绍文本聚类的过程任意选择k个文本作为初始聚类中心Repeat 计算输入文本与簇之间的相似度,将文本分配到最相似的簇中 更新簇质心

12、向量Until 簇质心不再发生变化,2018/10/5,评估指标,外部质量准则的聚类熵、聚类精度文本分类方法的召回率、精度、F-measure值文本聚类算法整体性能的评估宏平均或微平均F-measure值聚类熵,2018/10/5,8.1.6 文档自动摘要,文档自动摘要,简称自动文摘,是指利用计算机自动地从原始文档中提取全面准确地反映该文档中心内容的简单连贯的短文处理过程大致可分为三个步骤:文本分析过程信息转换过程重组源表示内容,生成文摘并确保文摘的连贯性,2018/10/5,文档自动摘要的类型,按不同标准,文档自动摘要可分为不同类型:根据文摘的功能划分,指示型文摘、报道型文摘和评论型文摘根据

13、输入文本的数量划分,单文档文摘和多文档文摘根据原文语言种类划分,单语言文摘和跨语言文摘根据文摘和原文的关系划分,摘录型文摘和理解型文摘根据文摘的应用划分,普通型文摘和面向用户查询文摘,2018/10/5,相关技术,文档自动摘要技术主要有以下几种类型自动摘录法最大边缘相关自动文摘法基于理解的自动文摘基于信息抽取的自动文摘基于结构的自动文摘基于LSI语句聚类的自动文摘,2018/10/5,相关技术(续),自动摘录法将文本看成是句子的线性排列,将句子看成词的线性排列,然后从文本中摘录最重要的句子作为文摘句最大边缘相关法从文本中挑选出与该文本最相关的,同时与已挑选出的所有代表句最不相关的句子作为下一个

14、代表句基于理解的方法利用语言学知识获取语言结构,更重要的是利用领域知识进行判断、推理,得到文摘的语义表示,从语义表示中生成摘要,2018/10/5,相关技术(续),基于信息抽取的方法首先根据领域知识建立该领域的文摘框架,然后使用信息抽取方法先对文本进行主题识别,再对文本中有用片段进行有限深度的分析,最后利用文摘模板将文摘框架中内容转换为文摘输出基于结构的方法将文章视为句子的关联网络,与很多句子都有联系的中心句被确认为文摘句,句子间的关系可通过词间关系、连接词等确定,2018/10/5,相关技术(续),基于LSI语句聚类的方法利用潜在语义索引LSI(Latent Semantic Indexin

15、g),获得特征项和文本的语义结构表示。在语义空间考虑特征项权重不是依赖于单纯的词频信息,而是考虑到特征项对于文本主题的表现能力以及在整个文本集中使用的模式。,2018/10/5,相关技术(续),以上方法普遍会面临以下三个关键问题的挑战文档冗余信息的识别和处理重要信息的辨认生成文摘的连贯性,2018/10/5,性能评估,自动文摘包含标准文摘的信息比率是内部测评中对文摘内容完整性的一种重要测评几个主流的评价方法:单文档文摘评价系统(Summary Evaluation Environment)ROUGEPyramidBE(Basic Elements)方法,2018/10/5,8.2 Web数据挖

16、掘,8.2.1 Web内容挖掘8.2.2 Web使用挖掘8.2.3 Web结构挖掘,2018/10/5,8.2.1 Web内容挖掘,Web内容挖掘是从Web页面的文本、图像、视频和组成页面的其它内容中提取信息的过程Web内容挖掘在Web搜索、垃圾邮件过滤、敏感信息过滤、情报分析、数字图书馆建设、网络舆情监控等方面有着重要的应用价值文本挖掘技术可应用于Web页面的文本挖掘中图像和视频等内容的挖掘是多媒体数据挖掘中的重要部分主要方法也是数据预处理、分类、聚类、关联规则,2018/10/5,8.2.2 Web使用挖掘,Web使用挖掘通过挖掘Web日志记录,发现用户访问Web页面的模式可以识别电子商务

17、的潜在客户增强对最终用户的因特网信息服务的质量和交互改进Web服务器系统性能,2018/10/5,数据收集,Web使用记录挖掘中的主要数据来源是服务器日志文件,主要可分为以下四种类型数据使用记录数据:首要的数据来源内容数据:由文字材料和图片组成结构数据:从设计者的角度所看到的网站内容组织结构用户数据:包括注册用户人口统计信息(如性别、年龄、职业等)、用户对各种对象的访问率、用户的购买记录或历史访问记录等,2018/10/5,预处理,2018/10/5,Web使用模式的发现和分析,会话及访问者分析在已预处理的会话数据中,发现访问者行为的知识使用记录聚类分析用户聚类:用户聚类的目的是对具有相同浏览

18、模式的用户进行分组页面聚类:在基于使用记录数据的聚类中,被经常访问的项目或购买记录可能被自动组织成一个个分组,2018/10/5,Web使用模式的发现和分析(续),关联规则及相关度分析可以找到普遍在一起被访问或被购买的页面或项目的分组可以用在Web个性化推荐系统中在电子商务的推荐系统中使用关联规则,目标用户的偏好是符合每个规则前项X中的项目,而在右侧的项目所符合的规则按照置信度排序,这个列表中排名靠前的N个项目便可考虑推荐给目标用户问题:若数据集稀疏,则无法给出任何推荐解决方案:协同过滤,2018/10/5,Web使用模式的发现和分析(续),导航模式分析要发现或分析用户导航模式,一种方法是将网

19、站中导航活动建模成Markov模型Markov模型:每个页面访问可以被表示成一个状态,两个状态间的转换概率可以表示用户从一个状态到另一个状态的可能性。这种表示方式允许计算一些有用的用户或网站的度量,2018/10/5,Web使用模式的发现和分析(续),基于Web用户事务的分类和预测在Web使用实例中,基于用户人口统计信息以及他们的购买活动,分类技术可以将用户分成高购买倾向和非高购买倾向两类协同过滤是Web领域分类和预测中的一个重要应用k近邻分类器(kNN)是一种简单有效的协同过滤方法,通过计算当前用户模型和以往用户模型的相关度,预测用户访问率或购买倾向,以找到数据库中有着相似特性和偏好的用户,

20、2018/10/5,8.2.3 Web结构挖掘,Web结构挖掘就是指通过分析不同网页之间的超链接结构,网页内部用HTML、XML表示的树形结构,以及文档URL中的目录路径结构等,发现许多蕴含在网络内容之外的对我们有潜在价值的模式和知识的过程Web页之间的超链接结构中包含了许多有用的信息。当网页A到网页B存在一个超链接时,则说明网页A的作者认为网页B的内容非常重要,且两个网页的内容具有相似的主题,2018/10/5,PageRank算法,目前对Web结构进行分析的主要方法是将Web看作有向图,然后根据一定的启发规则,用图论的方法对其进行分析PageRank 算法是超链接结构分析中最成功的代表之一

21、搜索引擎Google就是通过利用该算法和anchor text标记、词频统计等因素相结合的方法,对检索出的大量结果进行相关度排序,将最权威的网页尽量排在前面,2018/10/5,PageRank算法(续),PageRank算法假设从一个网页指向另一个网页的超链接是一种对目标网站权威的隐含认可,因此,一个页面的入度越大则它的权威就越高另一方面,指向网页自身也有权威值,一个拥有高权威值网页指向的网页比一个拥有低权威值网页指向的网页更加重要,如果一个网页被其它重要网页所指向,那么该网页也很重要,2018/10/5,HITS算法,Web的链接具有以下特征有些链接具有注释性,也有些链接是起导航或广告作用

22、。有注释性的链接才用于权威判断基于商业或竞争因素考虑,很少有Web网页指向其竞争领域的权威网页权威网页很少具有明显的描述,例如Google主页不会明确给出Web搜索引擎之类的描述信息Page Rank算法中对于向外链接的权值贡献是平均的,但根据以上Web的链接特征可看出平均地分布权值不符合链接的实际情况,2018/10/5,HITS算法(续),康奈尔大学博士J. Kleinberg提出的HITS (Hypertext Induced Topic Search)算法在算法中引入了另外一种网页,称为Hub网页Hub网页是提供指向权威网页(Authority)链接集合的Web网页,它本身可能并不重要

23、,但是Hub网页却提供了指向就某个主题而言最为重要的站点的链接集合Kleinberg认为网页的重要性应该依赖于用户提出的检索主题,而且对每一个网页应该将其Authority权重和Hub权重分开来考虑,2018/10/5,HITS算法(续),根据页面之间的超链接结构,将页面分为Authority页和Hub页一般来说,好的Hub网页指向许多好的Authority网页,好的Authority网页是由许多好的Hub网页指向的Web网页。这种Hub与Authority网页之间的相互加强关系,可用于Authority网页的发现和Web结构和资源的自动发现,这就是HITS算法的基本思想,2018/10/5,

24、HITS算法(续),HITS算法如下将查询q提交给传统的基于关键字匹配的搜索引擎从搜索引擎返回的网页中取前n(在介绍的HITS论文中采用n=200)个网页作为根集(root set),用S表示通过向S中加入被S引用的网页和引用S的网页将S扩展成基集T接着算法对基集T内部的每个网页进行处理,计算T中每个网页的Authority值和Hub值迭代计算并输出一组具有较大Hub值的页面和具有较大Authority值的页面,2018/10/5,PageRank与HITS算法的对比,处理对象和算法效率不同PageRank算法可以离线计算每个网页的PageRank值,能对用户查询产生快速的响应HITS算法由根

25、集S生成基集T的时间开销很昂贵,实时性较差传播模型不同PageRank算法是基于随机游走类型的HITS算法将网页分为Authority网页和Hub网页,Authority网页和Hub网页交互传播,相互加强,2018/10/5,PageRank与HITS算法的对比(续),反网页作弊能力不同PageRank算法能较好地防止网页作弊的发生HITS算法则没有这样好的反作弊能力,因为网页拥有者可以很容易地在自己的网页上添加大量指向权威网页的链接,进而影响HITS算法得到的Authority值和Hub值“主题漂移”问题HITS算法存在“主题漂移”问题PageRank则较好地克服了“主题漂移”问题,2018

26、/10/5,8.3 跨语言智能学术搜索系统,8.3.1 混合语种文本分词8.3.2 基于机器翻译的跨语言信息检索8.3.3 不同语种文本的搜索结果聚类8.3.4 基于聚类的个性化信息检索8.3.5 基于聚类的查询扩展8.3.6 其它检索便利工具8.3.7 系统性能评估,2018/10/5,8.3.1 混合语种文本分词,汉语词法分析系统ICTCLAS中文分词;词性标注;关键词提取;命名实体识别;未登录词识别分词正确率高达97.58%(973专家组评测);未登录词识别召回率均高于90%,其中中国人名的识别召回率接近98%;处理速度为31.5Kbytes/sLucene高性能文本分析器,可根据单词间

27、的空格进行分词大小写转换、不规则符号过滤、停用词过滤(Stop words filtering)、词干提取(Stemming),2018/10/5,整合ICTCLAS和Lucene混合语种分词策略:输入一个文本; 采用ICTCLAS对所输入文本进行中文分词以及词性标注处理;提取标注为“x”词性字符串,采用Lucene标准分析器(StandardAnalyzer)进行第二趟分词,对输入字符串进行大小写转换、不规则符号过滤、停用词过滤、词干提取;文本是否已经处理完,如果否则转(1);结束。,2018/10/5,8.3.2 基于机器翻译的跨语言信息检索,基于统计的机器翻译方法已经具备用户可接受的准确

28、率Google翻译是基于统计方法的机器翻译研究结合Google翻译和元搜索技术实现基于机器翻译的跨语言学术检索,2018/10/5,实现流程:用户输入查询词并选择目标语言;若目标语言与源语言(查询词所属语言)相同则转(3),否则将查询词翻译成目标语言,作为新的查询词;将查询词提交到搜索源;返回搜索结果。,2018/10/5,8.3.3 不同语种文本的搜索结果聚类,对不同语种文本采用不同的聚类算法:使用Lingo搜索结果聚类算法对西语文本进行聚类处理采用一趟聚类算法对中文搜索返回结果进行增量多层聚类,2018/10/5,8.3.4 基于聚类的个性化信息检索,个性化信息检索主要是通过用户兴趣模型对

29、搜索返回结果进行个性化重排序和个性化过滤返回结果等方式实现介绍方法的流程:观察用户对聚类结果的点击行为,实时提取用户的兴趣偏好生成并更新用户实时兴趣模型采用余弦夹角公式计算兴趣模型与搜索结果相似度按照相似度从大到小对其进行重排序,以实现个性化的检索需求,2018/10/5,8.3.5 基于聚类的查询扩展,通过查询扩展技术,搜索引擎系统能较好地理解用户的查询意图采用基于局部分析的聚类分析方法选取可读性强的聚类结果类标签作为扩展词提供交互式的扩展词选择方式,2018/10/5,8.3.6 其它检索便利工具,面向文献来源网站(URL)的层次归类方法“.com”、“.cn”“”“”基于文献发表期刊或者

30、会议的归类方法引用文献聚类功能按相似度排序、按时间排序、按被引用次数排序,2018/10/5,8.3.7 系统性能评估,系统的分词速度为111 kb/sMT CLIR(Machine Translation CLIR)的短查询词、中查询词和长查询平均准确率分别为0.4446、0.5536和0.617MCIBC和Lingo的微平均F-Measure值分别达到了0.4917和0.5178个性化排序方法得到了较高的P5、P10和P20值(均高于0.5),2018/10/5,部分系统截图,2018/10/5,2018/10/5,2018/10/5,2018/10/5,2018/10/5,8.4 基于内

31、容的垃圾邮件识别,8.4.1 垃圾邮件识别方法简介8.4.2 基于内容的垃圾邮件识别方法工作原理8.4.3 一种基于聚类的垃圾邮件识别方法,2018/10/5,8.4.1 垃圾邮件识别方法简介,主流的垃圾邮件识别技术可分为邮件服务器端防范技术和邮件客户端防范技术两大类邮件服务器端防范技术:基于IP地址、域名和 “(黑)白名单”过滤技术;基于信头、信体、附件的内容过滤技术;基于连接频率的动态规则技术;邮件客户端防范技术:充分利用黑名单,白名单功能;慎用“自动回复”功能;尽量避免泄露邮件地址;,2018/10/5,基于内容的垃圾邮件识别技术,基于内容的垃圾邮件识别技术是邮件服务器端防范技术的主流技

32、术,以上提到的基于信头、信体、附件的内容过滤技术是典型的基于内容的方法这类型方法的典型代表有Bayes方法、kNN、支持向量机SVM、Rocchio、神经网络等,2018/10/5,8.4.2 基于内容的垃圾邮件识别方法工作原理,一封标准格式的电子邮件包含有邮件头部(mail head)和邮件体(mail body)两部分邮件头部包括发件人,收件人,抄送人,发信日期,主题,附件等信息邮件体包括邮件正文信息实例图如下:,2018/10/5,2018/10/5,垃圾邮件过滤的基础,在不考虑附件、图片化文字等问题,只简单考虑邮件中包含的文本内容情况下,这类垃圾邮件大概占总垃圾邮件数量的80%垃圾邮件

33、过滤的基础是识别出所接收到邮件是正常邮件还是垃圾邮件,而这个识别过程可以看作是一种二类的文本分类问题,即正常邮件和垃圾邮件两个类别文本的识别,2018/10/5,识别方法的主要步骤,基于内容的垃圾邮件识别方法的主要步骤:将解码并格式化后的电子邮件视为文本;分词并使用相应的文本表示方法来表示文本,较多的方法采用向量空间模型 VSM;基于已有的垃圾邮件和正常邮件语料库,采用文本分类算法建立垃圾邮件识别模型;基于识别模型判别新收到的邮件是否为垃圾邮件,2018/10/5,8.4.3 一种基于聚类的垃圾邮件识别方法,介绍的方法首先采用聚类算法学习训练语料,并建立识别模型,然后再结合kNN分类方法思想对

34、测试语料决策分类,具有很好的识别准确度以及效率并可以通过聚类算法增量更新模型,2018/10/5,建立识别模型,利用一趟聚类算法建立识别模型,过程如下:初始时, 簇集合为空,读入一个新的文本;以这个对象构造一个新的簇,该文本的类别标识作为新簇的类别标识;若文本已被处理完,则转(6),否则读入新对象, 计算并选择最大的相似度的簇;若最大相似度小于给定半径阈值r,转(2);否则将该文本并入具有最大相似度的簇,转(3);采用投票机制对聚类得到的簇进行标识;得到聚类结果(识别模型),建模阶段结束。,2018/10/5,决策分类,结合kNN分类方法思想,利用识别模型对测试语料进行分类处理:给定一个测试文

35、本x,使用公式(1)计算模型m0的每个簇的打分,即(1)(2)找出k1(first_k_value)个最近邻的簇,并在这些簇中查找k2(second_k_value)个最近邻的文本基于得到的k2最近邻文本集,使用公式(2)给其打分,并将x判定为得分最高的类别,2018/10/5,模型更新,对于新添加的训练语料,采用建立模型一样的方法对新添加的训练文本进行增量式聚类,更新聚类结果,以得到新的识别模型,2018/10/5,部分算法性能测试结果,2018/10/5,Ling-Spam语料lemm版本上的十折交叉验证分类结果,2018/10/5,Ling-Spam上的增量式建模分类TCR值,2018/10/5,Ling-Spam上的增量式建模的簇变化情况,2018/10/5,8.5 本章小结,文本挖掘以及Web数据挖掘技术在现实生活中有着广泛的应用。本章对文本挖掘以及Web数据挖掘技术作了简要介绍,并通过两个案例深入地展示了相关技术和思想。,

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 学术论文资料库 > 毕业论文

Copyright © 2018-2021 Wenke99.com All rights reserved

工信部备案号浙ICP备20026746号-2  

公安局备案号:浙公网安备33038302330469号

本站为C2C交文档易平台,即用户上传的文档直接卖给下载用户,本站只是网络服务中间平台,所有原创文档下载所得归上传人所有,若您发现上传作品侵犯了您的权利,请立刻联系网站客服并提供证据,平台将在3个工作日内予以改正。