美文网首页
Kafka不仅仅是一个消息引擎

Kafka不仅仅是一个消息引擎

作者: 自天佑之吉无不利 | 来源:发表于2023-09-10 07:58 被阅读0次

Apache Kafka 是消息引擎系统,也是一个分布式流处理平台(Distributed Streaming Platform)。今天 Apache Kafka 是和 Apache Storm、Apache Spark 和 Apache Flink 同等级的实时流处理平台。

作为流处理平台,Kafka 与其他主流大数据流式计算框架相比,优势在哪里呢?

第一点是更容易实现端到端的正确性(Correctness)。流处理要最终替代它的“兄弟”批处理需要具备两点核心优势:要实现正确性和提供能够推导时间的工具。实现正确性是流处理能够匹敌批处理的基石。正确性一直是批处理的强项,而实现正确性的基石则是要求框架能提供精确一次处理语义,即处理一条消息有且只有一次机会能够影响系统状态。

目前主流的大数据流处理框架都宣称实现了精确一次处理语义,但这是有限定条件的,即它们只能实现框架内的精确一次处理语义,无法实现端到端的。因为所有的数据流转和计算都在 Kafka 内部完成,故 Kafka 可以实现端到端的精确一次处理语义。

第二点是它自己对于流式计算的定位。

此文章为9月Day7学习笔记,内容来源于极客时间《Kafka核心技术 》,强烈推荐该课程

相关文章

  • Apache kafka实战一 认识Kafka

    1,消息引擎系统 1)Kafka是消息引擎系统,两个重要因素: 消息设计、传输协议设计。2)Kafka消息是结构化...

  • Kafka集群部署指南

    一、前言 1、Kafka简介 Kafka是一个开源的分布式消息引擎/消息中间件,同时Kafka也是一个流处理平台。...

  • Kafka集群部署指南

    一、前言 1、Kafka简介 Kafka是一个开源的分布式消息引擎/消息中间件,同时Kafka也是一个流处理平台。...

  • Kafka集群部署

    一、前言 1.Kafka简介 Kafka是一个开源的分布式消息引擎/消息中间件,同时Kafka也是一个流处理平台。...

  • Kafka集群

    一、简介 Kafka简介Kafka是一个开源的分布式消息引擎/消息中间件,同时Kafka也是一个流处理平台。Kak...

  • Kafka灵魂30问 - 核心篇

    1、 Kafka只是消息引擎系统吗? 除了作为消息引擎,Kafka 能够被用作流处理平台和分布式存储系统。 2、K...

  • Kafka-概述

    一、Kafka是什么 1.定义 Apache Kafka 是一款开源的消息引擎系统。消息引擎系统是一组规范。企业利...

  • Kafka灵魂三十问

    核心篇 1、 Kafka只是消息引擎系统吗?2、Kafka 未来的演进路线是怎么样的?3、为什么 Kafka 不像...

  • 1-Kafka基本概念

    Kafka是一个分布式的消息引擎系统和流式处理系统。关于消息引擎系统,它主要提供一套完备的消息发布和订阅的解决方案...

  • 如何快速全面掌握Kafka?5000字吐血整理

    Kafka 是目前主流的分布式消息引擎及流处理平台,经常用做企业的消息总线、实时数据管道,本文挑选了 Kafka ...

网友评论

      本文标题:Kafka不仅仅是一个消息引擎

      本文链接:https://www.haomeiwen.com/subject/ryjdvdtx.html