1、免 接 口 发 布 程 序软 件 介 绍软 件 全 名 为 : 熊 猫 采 集 软 件 熊 猫 采 集 软 件 是 新 一 代 采 集 软 件 , 全 程 可 视 化 鼠 标 操 作 , 用 户 无 需 关 心 网页 源 码 , 无 需 编 写 采 集 规 则 , 无 需 使 用 正 则 表 达 式 技 术 。 全 程 智 能 化 辅 助 , 是采 集 软 件 行 业 的 换 代 产 品 。 同 时 也 是 通 用 性 采 集 软 件 , 可 以 应 用 在 各 个 行 业 ,满 足 各 种 采 集 需 求 (包 括 站 群 系 统 )。 是 复 杂 采 集 需 求 的 必 选 , 也 是 采
2、 集 软 件 使用 新 手 的 首 选 。 熊 猫 采 集 软 件 的 设 计 目 标 之 一 , 是 作 为 通 用 的 垂 直 搜 索 引 擎 、 舆 情 系 统 的定 向 采 集 引 擎 , 配 合 熊 猫 的 分 词 索 引 检 索 引 擎 , 用 户 可 以 轻 松 构 建 自 己 的 行 业垂 直 搜 索 引 擎 , 如 招 聘 人 才 、 房 产 、 购 物 、 医 疗 健 康 、 二 手 、 分 类 信 息 、 商 务 、交 友 、 论 坛 、 博 客 、 新 闻 、 经 验 、 知 识 、 软 件 等 等 , 在 此 过 程 中 , 用 户 并 不 需要 非 常 专 业 的
3、技 术 基 础 即 可 构 建 自 己 的 行 业 垂 直 搜 索 引 擎 软 件 功 能1、 操 作 简 单 对 于 常 规 采 集 任 务 , 简 单 到 只 需 要 输 入 标 题 和 列 表 页 起 始 地 址 即 可 实 现 精确 采 集 。 2、 能 全 面 、 强 大 软 件 虽 然 操 作 简 单 , 却 功 能 强 大 、 全 面 。 可 以 实 现 各 类 复 杂 采 集 需 求 。 可应 用 于 各 种 场 合 的 通 用 性 采 集 软 件 3、 不 懂 技 术 亦 可 轻 松 操 作 不 需 要 编 写 采 集 规 则 , 不 需 要 关 心 网 页 源 码 ,全 程
4、 鼠 标 操 作 。 操 作 界 面 友 好 、 直 观 。 全 程 智 能 辅 助 。 且 不 用 担 心 设 置 的 采 集会 频 繁 失 效 。 4、 解 决 复 杂 采 集 需 求 企 业 基 本 资 料 和 企 业 所 有 产 品 、 企 业 所 有 招 聘 职位 。 正 文 和 所 有 回 复 等 等 均 可 一 次 性 完 整 采 集 、 完 整 发 布 。 5、 搜 索 引 擎 解 析 内 核 利 用 智 能 搜 索 引 擎 的 解 析 内 核 , 实 现 对 采 集 网 页的 仿 浏 览 器 解 析 。 拥 有 自 成 体 系 的 多 项 核 心 关 键 技 术 。 6、 强
5、 大 的 自 动 分 析 能 力 系 统 可 自 动 分 析 翻 页 、 分 页 、 页 面 标 题 、 正 文等 。 可 以 对 搜 索 引 擎 的 搜 索 结 果 实 现 自 动 解 析 。 7、 面 向 对 象 采 集 一 个 采 集 对 象 的 子 项 内 容 可 以 是 分 散 在 若 干 个 不 同 页 面 内 , 页 面 间 可 以 是需 要 通 过 多 次 链 接 才 能 到 达 , 数 据 彼 此 间 可 以 具 有 复 杂 逻 辑 关 系 。 8、 支 持 复 杂 数 据 关 系 采 集 结 果 直 接 存 储 到 数 据 库 , 不 需 要 自 行 编 写 复 杂 的 S
6、QL 语 句 , 支 持 多表 单 联 合 存 储 。 自 动 处 理 数 据 的 更 新 、 覆 盖 、 重 复 判 断 等 事 宜 。 9、 多 模 板 自 动 适 应 每 个 被 采 集 的 页 面 都 可 以 定 义 多 个 模 板 。 系 统 会 自 动 判 断 使 用 最 匹 配 的 模板 。 如 果 不 能 定 义 多 个 模 板 , 则 很 多 时 候 的 采 集 结 果 很 难 完 整 。 10、 发 布 不 需 要 专 用 接 口 不 需 要 修 改 网 站 源 码 来 添 加 专 用 发 布 接 口 , 而 是 直 接 利 用 网 站 已 有 的 手 工发 布 通 道 进
7、 行 发 布 。 可 多 马 甲 切 换 发 布 。 11、 图 文 混 排 内 容 合 并 采 集 对 于 文 字 内 容 中 夹 杂 的 非 文 字 内 容 (如 图 片 、 动 画 、 视 频 、 音 乐 、 文 件 等 ),熊 猫 会 进 行 合 适 的 处 理 , 使 得 采 集 结 果 可 以 保 留 被 采 集 前 的 原 样 。 12、 多 级 模 拟 发 布 功 能 可 同 时 定 义 多 个 web 模 拟 发 布 页 面 , 可 以 将 采 集 到 的 具 有 复 杂 数 据 关 系的 采 集 结 果 , 一 次 性 完 整 的 发 布 到 网 站 中 。 13、 精 炼
8、 的 采 集 结 果 熊 猫 采 集 软 件 使 用 的 是 仿 浏 览 器 解 析 技 术 , 因 此 采 集 结 果 非 常 精 炼 , 不 会夹 杂 任 何 无 关 网 页 源 码 内 容 。 只 有 熊 猫 才 能 让 结 果 如 此 精 炼 。 14、 论 坛 整 体 搬 家 完 整 拷 贝 对 方 网 站 的 帖 子 及 该 帖 子 的 所 有 回 复 和 作 者 , 并 发 布 到 自 己 的 论坛 中 , 包 括 所 有 用 户 的 注 册 、 发 帖 、 回 帖 、 滚 动 更 新 等 。 15、 动 态 Cookie 对 话 有 些 网 站 会 借 助 浏 览 器 cook
9、ie 的 动 态 对 话 功 能 实 现 对 敏 感 数 据 的 加 密 操作 , 此 时 就 需 要 使 用 熊 猫 采 集 软 件 的 动 态 Cookie 对 话 功 能 。 招 聘 信 息 的 完整 采 集 、 发 布 16、 一 次 性 的 采 集 拷 贝 招 聘 企 业 基 本 资 料 以 及 该 企 业 的 所 有 招 聘 职 位 ,并 一 次 性 的 完 整 发 布 到 自 己 的 网 站 中 。 17、 泛 搜 索 自 动 解 析 自 动 分 析 页 面 标 题 、 正 文 。 支 持 对 论 坛 页 面 的 解 析 。 支 持 对 搜 索 引 擎 搜 索结 果 的 解 析
10、。 使 用 原 创 的 自 成 体 系 的 分 析 技 术 , 准 确 率 高 。 18、 B2B 信 息 的 完 整 采 集 、 发 布 一 次 性 的 采 集 拷 贝 B2B 网 站 内 的 企 业 基 本 资 料 以 及 该 企 业 的 所 有 产 品 、供 求 内 容 。 并 一 次 性 的 完 整 发 布 到 自 己 的 网 站 中 。 熊 猫 采 集 软 件 可 能 与 你 见 过 的 某 些 类 似 工 具 软 件 全 然 不 同 : 功 能 强 大 , 但又 操 作 简 单 。 两 者 的 差 别 , 类 似 于 从 DOS 操 作 系 统 转 到 windows 视 窗 操
11、作系 统 。 前 者 需 要 专 业 技 术 人 员 才 能 有 效 操 作 , 而 熊 猫 则 是 面 向 普 通 大 众 的 可 视化 操 作 平 台 。 软 件 特 点1、 通 用 性 的 采 集 软 件 熊 猫 采 集 软 件 虽 然 操 作 简 便 , 但 也 兼 顾 通 用 性 、 复 杂 性 。 可 以 适 用 各 种 特殊 场 合 , 力 求 满 足 用 户 各 种 特 殊 要 求 。 软 件 针 对 常 规 应 用 做 了 大 量 简 化 操 作 和智 能 化 的 自 动 辅 助 功 能 , 同 时 一 并 保 留 了 复 杂 情 况 下 的 操 作 设 置 通 道 。 同
12、样 ,这 些 复 杂 操 作 依 旧 不 需 要 使 用 正 则 表 达 式 技 术 , 系 统 也 尽 可 能 的 做 了 操 作 优 化 ,例 如 对 于 post 页 面 的 post 变 量 可 以 实 现 自 动 取 值 。 熊 猫 采 集 软 件 的 解 析 内 核 , 并 不 会 针 对 任 何 特 定 的 网 页 模 板 或 者 网 页 模 式 ,软 件 立 足 打 造 成 为 一 款 通 用 性 的 采 集 软 件 。 熊 猫 一 直 致 力 于 探 索 可 以 通 用 于 各种 场 合 的 公 式 方 法 , 而 不 愿 使 用 “拼 凑 ”的 方 法 来 解 决 采 集
13、的 实 现 。 2、 智 能 化 辅 助 操 作 为 了 方 便 采 集 软 件 使 用 新 手 能 顺 利 操 作 , 同 时 也 为 了 提 高 采 集 项 目 设 置 的效 率 , 软 件 已 尽 最 大 努 力 , 帮 助 用 户 实 现 一 些 采 集 设 置 的 自 动 设 置 工 作 , 例 如可 以 自 动 为 用 户 找 到 分 页 (翻 页 )链 接 所 在 , 并 自 动 设 置 好 分 页 (翻 页 )链 接 参 数 ;可 以 分 离 参 考 页 面 的 框 架 内 容 和 核 心 内 容 ; 自 动 实 现 分 页 内 容 的 合 并 整 理 ; 等等 。 只 是 一
14、 些 关 键 性 的 设 置 操 作 必 须 要 由 用 户 自 己 来 决 定 。 熊 猫 采 集 软 件 , 利 用 的 是 新 一 代 精 准 搜 索 引 擎 的 解 析 内 核 , 拥 有 大 量 的 原创 性 的 关 键 技 术 , 因 此 在 技 术 上 拥 有 难 以 被 轻 易 复 制 的 门 槛 。 一 些 独 特 的 软 件功 能 是 建 立 在 原 创 技 术 基 础 上 的 技 术 应 用 。 3、 全 程 可 视 化 鼠 标 操 作 软 件 的 设 置 过 程 采 用 独 特 的 工 作 模 式 , 设 置 过 程 中 , 窗 口 右 边 的 浏 览 器 会对 应 显
15、 示 相 应 的 网 页 内 容 , 用 户 可 以 获 得 非 常 直 观 的 理 解 。 全 程 鼠 标 操 作 , 用户 无 需 使 用 复 杂 的 正 则 表 达 式 技 术 。 在 绝 大 部 分 情 况 向 下 , 用 户 都 不 需 要 过 问网 页 源 码 内 容 。 互 联 网 的 公 开 资 源 是 平 等 面 向 所 有 互 联 网 用 户 , 借 助 熊 猫 采 集 工 具 软 件 ,采 集 这 些 互 联 网 资 源 就 不 再 只 是 网 络 技 术 高 手 的 专 利 。 4、 可 采 集 结 构 复 杂 的 对 象 集 合 这 是 熊 猫 采 集 软 件 最 为
16、 独 特 的 地 方 之 一 。 熊 猫 采 集 是 面 向 对 象 的 , 该 对 象的 各 项 子 内 容 可 以 是 分 散 在 多 个 页 面 内 , 这 些 内 容 页 面 可 以 是 需 要 很 多 次 链 接才 能 到 达 , ( 传 统 的 采 集 方 式 一 般 只 能 将 采 集 范 围 局 限 在 某 一 个 页 面 (或 分 页 )内 ,) 因 此 熊 猫 采 集 软 件 可 以 灵 活 实 现 各 种 采 集 需 求 。 面 向 对 象 的 采 集 方 式 是 非 常 灵 活 的 , 可 以 用 来 变 通 实 现 对 (二 级 )标 题 列表 页 面 的 访 问 ,
17、 可 以 是 无 限 嵌 套 的 。 5、 采 集 结 果 可 以 是 由 多 张 表 组 成 的 复 杂 数 据 关 系 这 也 是 熊 猫 采 集 软 件 最 为 独 特 的 地 方 之 一 。 熊 猫 采 集 是 面 向 对 象 的 , 而 作为 该 对 象 的 组 成 内 容 的 相 互 间 关 系 可 能 是 非 常 复 杂 的 , 因 此 用 来 记 录 这 些 关 系复 杂 的 内 容 的 数 据 库 表 单 也 需 要 是 非 常 灵 活 的 , 可 能 会 同 时 涉 及 到 多 张 表 单 。目 前 版 本 的 熊 猫 采 集 软 件 , 支 持 一 父 多 子 的 数 据
18、 关 系 表 。 子 表 内 容 可 以 是 多 项(指 重 复 子 项 ), 也 可 以 是 父 表 内 容 的 切 割 表 。 例 如 需 要 采 集 类 似 阿 里 巴 巴 这 样 B TO B 网 站 内 的 企 业 的 全 部 信 息 资 料 ,可 以 把 该 企 业 的 全 部 信 息 资 料 当 成 一 个 “对 象 ”集 合 来 对 待 。 该 企 业 的 基 本 资 料内 容 可 以 存 入 主 表 , 该 企 业 的 产 品 可 以 有 很 多 项 , 因 此 该 企 业 的 产 品 资 料 就 必须 要 存 储 到 “重 复 子 项 ”子 表 内 , 这 样 组 成 的
19、数 据 关 系 才 有 应 用 意 义 。 很 多 网 站 都 针 对 采 集 行 为 作 了 各 种 干 扰 措 施 , 传 统 的 采 集 工 具 都 是 依 赖 分析 网 页 源 码 , 利 用 正 则 表 达 式 技 术 从 网 页 源 码 中 抽 取 特 殊 内 容 。 而 熊 猫 则 完 全不 同 , 利 用 的 是 仿 浏 览 器 解 析 技 术 , 因 此 这 些 反 采 集 的 干 扰 措 施 对 熊 猫 基 本 无效 。 因 此 有 了 熊 猫 采 集 , 你 就 不 必 因 为 你 的 采 集 规 则 频 繁 过 期 而 烦 恼 。 工 作 流 程准 备 工 作明 确 需
20、 要 采 集 什 么 内 容 , 从 哪 儿 采 ? 明 确 如 何 使 用 采 集 来 的 结 果 数 据 。直 接 入 库 还 是 (模 拟 )发 布 到 自 己 网 站 中 熟 悉 被 采 集 网 站 的 逻 辑 结 构 , 找 到“标 题 列 表 页 面 ”和 “内 容 页 面 ” 配 置 采 集基 础 属 性 设 置 项 目 高 级 设 置 ( 可 不 设 置 ) 设 置 “标 题 列 表 页 ”的 翻 页方 式 在 列 表 页 中 鼠 标 选 择 内 容 页 面 链 接 在 内 容 页 面 中 点 选 、 设 置 需 要 采集 的 内 容 设 置 模 拟 发 布 , 来 发 布 采 集 结 果 试 运 行勾 选 软 件 上 的 试 运 行 运 行 查 看 内 容 页 和 日 志 页 如 果 有 问 题 按 提 示检 查 正 式 运 行 采 集 发 布正 式 运 行 采 集 和 发 布 检 查 内 容 也 和 日 志 页 查 看 自 己 的 网 站 发 布 成功免 接 口 发 布 程 序 网 址 : http:/