网络爬虫的设计与实现(完整版)28页.doc

上传人:晟*** 文档编号:7042288 上传时间:2021-09-17 格式:DOC 页数:28 大小:1.81MB
下载 相关 举报
网络爬虫的设计与实现(完整版)28页.doc_第1页
第1页 / 共28页
网络爬虫的设计与实现(完整版)28页.doc_第2页
第2页 / 共28页
网络爬虫的设计与实现(完整版)28页.doc_第3页
第3页 / 共28页
网络爬虫的设计与实现(完整版)28页.doc_第4页
第4页 / 共28页
网络爬虫的设计与实现(完整版)28页.doc_第5页
第5页 / 共28页
点击查看更多>>
资源描述

网络爬虫的设计与实现 摘 要网络爬虫将下载的网页和收集到的网页信息存储在本地数据库中以供搜索引擎使用,它是一个专门从万维网上下载网页并分析网页的程序。随着网络的快速发展,人们对搜索引擎的要求也越来越高,而网络爬虫的效率直接影响着搜索引擎的质量。本课题研究的是通用网络爬虫,它是从一个或若干个初始网页的链接开始进而得到一个链接队列。伴随着网页的抓取又不断从抓取到的网页中抽取新链接放入到链接队列中,直到爬虫系统满足了停止条件。该课题主要涉及到了缓冲池技术,多线程技术,套接字技术,HTTP和SSL协议,正则表达式,Linux网络编程技术,PHP+Apache的使用等相关技术。本说明书叙述的网络爬虫是以Linux C实现的,加以PHP语言编写的界面使用户更加方面的操作,利用Shell脚本和Apache服务器使得爬虫系统和界面很好的结合在一起。关键词:网络爬虫 缓冲池 正则表达式 SSL协议 多线程目

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 实用文档资料库 > 公文范文

Copyright © 2018-2021 Wenke99.com All rights reserved

工信部备案号浙ICP备20026746号-2  

公安局备案号:浙公网安备33038302330469号

本站为C2C交文档易平台,即用户上传的文档直接卖给下载用户,本站只是网络服务中间平台,所有原创文档下载所得归上传人所有,若您发现上传作品侵犯了您的权利,请立刻联系网站客服并提供证据,平台将在3个工作日内予以改正。