开源搜索引擎的比较1Nutch简介：Nutch是一个用java实现的基于Lucene的开源搜索引擎框架，主要包括爬虫和查询两部分组成。Nutch所使用的数据文件主要有以下三种：1）是webDb，保存网页链接结构信息，只在爬虫工作中使用。2）是segment，存储网页内容及其索引，以产生的时间来命名。segment文件内容包括CrawlDatum、Content、ParseData、ParseText四个部分，其中CrawlDatum保存抓取的基本信息，content保存html脚本，ParseData和ParseText这两个部分是对原内容的解析结果。3）是index，即索引文件，它把各个segment的信息进行了整合。爬虫的搜索策略是采用广度优先方式抓取网页，且只获取并保存可索引的内容。Nutch0.7需要java1.4以上的版本，nutch1.0需要java1.6。特点：1、遵循robots.txt，当爬虫访问一个站点时，会首先检查该站点根目录下是否存在robots.txt，如果存在，搜索机器人就会按照该文件中的内容来确定访问
