flume和kafka区别
kafka 和 flume 都是日志系统,kafka 是分布式消息中间件,自带存储,提供 push 和 pull 存取数据功能。flume 分为 agent(数据采集器),collector(数据简单处理和写入),storage(存储器)三部分,每一部分都是可以定制的。
相关介绍
kafka 做日志缓存应该是更为合适的,但是 flume 的数据采集部分做的很好,可以定制很多数据源,减少开发量。所以比较流行 flume+kafka 模式,如果为了利用 flume 写 hdfs 的能力,也可以采用 kafka+flume 的方式。
采集层 主要可以使用 Flume, Kafka 两种技术。
Flume:Flume 是管道流方式,提供了很多的默认实现,让用户通过参数部署,及扩展 API.
Kafka:Kafka 是一个可持久化的分布式的消息队列。
猜你喜欢内容
-
好小蚁 GEO|精准套餐定价
好小蚁 GEO|精准套餐定价
-
高考为什么重要
每年高考都是在公平地选拔人才,为国家将来的发展储蓄人才资源。高考选拔出的人中绝大多数人将会是这个...
-
高考文综多少分
文科综合包括历史、地理、政治,总计300分。地理100分,历史100分,政治100分。上海情况比较特殊,选考三...
-
沉积岩有哪些
沉积岩是三大岩类的一种,又称为水成岩,另外两种是岩浆岩和变质岩,其中沉积岩主要包括石灰岩、砂岩、...
-
充分必要条件记忆口诀
充分必要条件记忆口诀包括定义法、集合法、筛选法等。箭头所指为必要,箭尾所指为充分。若A>B,则x∈A...
-
blow的过去式和过去分词及用法有哪些
blow的过去式:blew,过去分词:blown。blow,作名词时意为“吹;打击,猛击;挫折;强风;擤鼻子;(非...
-
湖北大还是武汉大?
湖北比武汉大,武汉属于湖北省的,也是湖北经济发展的支柱城市,湖北省介于北纬29°01′53″—33°6′47...
-
武汉比济南大多少
武汉是湖北省省会,属于副省级市,截止2019年末,武汉总面积8569.15平方千米。济南市山东省省会,也是副...
-
中医学理论体系形成的条件
中医学理论体系形成的条件介绍:科学是一种社会现象,它不能游离于社会之外而孤立地存在与发展。科学体...
-
“旌旗拂座隅”出自哪里
“旌旗拂座隅”出自唐代李冶的《句》。“旌旗拂座隅”全诗《句》唐代 李冶经时未架却,心绪乱纵横。(季...






















