美文网首页
kafka持久化

kafka持久化

作者: 呆一样的悦悦 | 来源:发表于2017-11-23 22:33 被阅读0次

       今天改写之前的项目,由于之前对于kafka的认知不足,简单的以为是和rabbitmq都是amqp的一种实现,结果大错特错,那么这篇日志来记录下今天学习的成果

       根据百度百科的信息,Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消费。

       首先是ampq和kafka对于消息信息持久化的不同,ActiveMQ消息持久化方式,分别是:文件、mysql数据库、oracle数据库。而kafka则是把数据以追加日志的形式存在了磁盘上。这样的优势就在于读操作不会阻塞写操作和其他操作(因为读和写都是追加的形式,都是顺序的,不会乱,所以不会发生阻塞),数据大小不对性能产生影响;没有容量限制(相对于内存来说)的硬盘空间建立消息系统;线性访问磁盘,速度快,可以保存任意一段时间!

相关文章

  • kafka知识要点

    kafka的特点: 1.消息持久化:通过0(1)的磁盘数据结构提供数据的持久化,kafka中可以存储数据,存储量决...

  • kafka持久化

    今天改写之前的项目,由于之前对于kafka的认知不足,简单的以为是和rabbitmq都是amqp的一种实现,...

  • PHP 操作 Redis Stream 消息队列

    需要redis5.0 ,借鉴kafka,消息可持久化

  • Kafka 消息持久化

    持久化原理 Kakfa 依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供...

  • python操作kafka

    一、什么是kafka kafka特性:(1) 通过磁盘数据结构提供消息的持久化,这种结构对于即使数以TB的消息存储...

  • Kafka学习

    Kafka 官网: Kafka 主要设计目标如下: 以时间复杂度为 O(1) 的方式提供消息持久化能力,即使对 T...

  • 2 kafka的特性

    消息持久化和缓存Kafka高度依赖文件系统来存储和缓存消息。一般的人都认为“磁盘是缓慢的”,这使得人们对“持久化结...

  • 【kafka简介】

    前言 kafka具有,高吞吐量、数据可持久化、易扩张、消费端维护等特点。kafka以topic进行数据分类,每个t...

  • kafka原理学习笔记

    一、kafka简介 kafka是分布式消息队列,具有高性能、持久化、多副本备份、横向扩展能力,其最大的特性是高吞吐...

  • Kafka核心设计与实践原理总结:进阶篇

    kafka作为当前热门的分布式消息队列,具有高性能、持久化、多副本备份、横向扩展能力。我学习了《深入理解Kafka...

网友评论

      本文标题:kafka持久化

      本文链接:https://www.haomeiwen.com/subject/edbtbxtx.html