主流流处理框架比较.docx

上传人:乾*** 文档编号:12755178 上传时间:2022-06-10 格式:DOCX 页数:19 大小:1.09MB
下载 相关 举报
主流流处理框架比较.docx_第1页
第1页 / 共19页
主流流处理框架比较.docx_第2页
第2页 / 共19页
主流流处理框架比较.docx_第3页
第3页 / 共19页
主流流处理框架比较.docx_第4页
第4页 / 共19页
主流流处理框架比较.docx_第5页
第5页 / 共19页
点击查看更多>>
资源描述

分布式流处理是对无边界数据集进行连续不断的处理、聚合和分析。它跟MapReduce一样是一种通用计算,但我们期望延迟在毫秒或者秒级别。这类系统一般采用有向无环图(DAG)。DAG是任务链的图形化表示,我们用它来描述流处理作业的拓扑。如下图,数据从sources流经处理任务链到sinks。单机可以运行DAG,但本篇文章主要聚焦在多台机器上运行DAG的情况。关注点当选择不同的流处理系统时,有以下几点需要注意的:电运行时和编程模型:平台框架提供的编程模型决定了许多特色功能,编程模型要足够处理各种应用场景。这是一个相当重要的点,后续会继续。函数式原语:流处理平台应该能提供丰富的功能函数,比如,map或者filter这类易扩展、处理单条信息的函数;处理多条信息的函数aggregation;跨数据流、不易扩展的操作join。状态管理:大部分应用都需要保持状态处理的逻辑。流处理平台应该提供存储、访问和更新状态信息。电消息传输保障:消息传输保障一般有三种:atmostonce,atleastonce和exactlyonce。Atmostonce的

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 重点行业资料库 > 商业租赁

Copyright © 2018-2021 Wenke99.com All rights reserved

工信部备案号浙ICP备20026746号-2  

公安局备案号:浙公网安备33038302330469号

本站为C2C交文档易平台,即用户上传的文档直接卖给下载用户,本站只是网络服务中间平台,所有原创文档下载所得归上传人所有,若您发现上传作品侵犯了您的权利,请立刻联系网站客服并提供证据,平台将在3个工作日内予以改正。