1、第五届全国搜索引擎和网上信息挖掘学术研讨会,SEWM 2007 中文web检索评测报告江西师范大学报告人:曹瑛,内容提纲,评测目标 系统设计 实验结果 未来工作,评测目标,主题提取(TD)查找主题相关的关键资源的入口导航搜索 (HPNP)HP 查找指定名字的网站的首页NP 查找指定名字的页面,主题提取,TD 任务分析不能按照网页相似度大小来判断站点是从一组相关网页的入口网页深度一般不会大于4,导航搜索,导航搜索 (HPNP)主页查找检索返回的相关网页可能只来源于某几个网站主页大部分是以“/”结尾,或者结尾包含“index”,“default”单词指定页面查找 一般可以按照网页的检索评分得到结果
2、 查询任务和网页的title基本一致,系统设计,解压缩,查询任务分析,CWT200g,分析网页,分词,预处理,TD/HPNP,初次排序结果,检索,建立索引,二次检索,系统设计,分析网页去掉冗余信息,只保留title和body的标签内容分词 北大天网提供的CHSeg分词程序统计词频,系统设计,查询分析手动判断,分开HP和NP查询对查询进行分词,统计词频索引和检索开源lucene对提取的title和body建立索引检索中运用向量模型权重计算公式 W( ti, dj)=,二次排序针对不同的查询任务采取不同策略HP查找主页首先要进行网页站点聚类,每个网站取出若干根据规则得到的主页后选页面,然后按照title: body=4:1重新评分,进行排序NP不进行二次排序TD首先要进行网页站点聚类,每个网站取出根据规则得到的候选页面,然后按照title: body=1:4重新评分,进行排序,提交结果,RUN1 firtex工具RUN2用title和body检索RUN3只用title进行检索,实验环境,操作系统 redhat9.0 系统配置2.8G CPU ,内存4G 编程语言 java,总结和未来工作,网页结构提取网页分块字体大小、文字样式词的位置关系链接关系分析锚文本的利用检索模型的更新,谢谢,