美文网首页
Kafka-高效读写效率

Kafka-高效读写效率

作者: 码界西柚 | 来源:发表于2019-11-18 12:18 被阅读0次

1读写方式

1.1 顺序读写磁盘

     kafka得producer生产数据,要写入到log文件中,写的过程是一直追加到文件末端为顺序写,同样子的磁盘,顺序写可以达到600m/s,随机写只有100K/s,这与磁盘的急写结构有关,顺序写之所有快,是因为其省区了大量磁头寻址的时间。

1.2 零拷贝技术

       考虑到用户空间和内核空间之间的数据拷贝机制。

       我们的程序要经过操作系统调用C语言调用操作系统之后调用内核中的程序调用硬盘信息,零拷贝技术,属于减少了内核和用户空间之间的拷贝信息数据信息。

       Kafka集群中有一个broker会被选举为Controller,负责管理集群broker的上下线,所有的topic的分区副本分配和leader的选举等工作。

      以下为partition的leader选举过程

      抢占资源的方式进行选举controller服务功能。就是哪个broker去争取到了controller,那么controller就去,也可能是先来的先抢到的思路。

相关文章

  • Kafka-高效读写效率

    1读写方式 1.1 顺序读写磁盘 kafka得producer生产数据,要写入到log文件中,写的过程是一直追...

  • IO流3

    IO流三 缓冲流 字节缓冲流和字符缓冲流:可以提高效率。用字节流去读写操作,可以一个字节的去读写,这种效率非常低。...

  • 4、Redis高性能的根本原理

    1、基于内存读写 内存的读写速度很快 2、采用的多路复用 Epoll模型 3、高效率的数据结构 常用的五大Redi...

  • Redis

    NoSQL: not only sql为什么有NOSql: 互联网项目:特点: 数据库高并发读写,海量数据高效率...

  • 菜鸟手绘练习26

    排除干扰,提高效率。 排除干扰,提高效率。 排除干扰,提高效率。 排除干扰,提高效率。 排除干扰,提高效率。 排除...

  • Redis知识点速查

    NoSQL概述 为什么需要NoSQL 高并发读写 海量数据的高效率存储和访问 高可扩展性和高可用性 NoSQL数据...

  • 数据读写分离、多实例配置

    数据读写分离 读写分离概述 使用读写分离的原因 数据库写入效率要低于读取效率 一般来说,数据读取频率高于写入频率 ...

  • JAVA IO(二)文件读写

    File读写 字节流读写 1.直接通过FileInputStream, FileOutputStream缺点:效率...

  • Go bufio

    bufio通过缓存来提高效率,缓存放在主存中。 Golang的bufio包实现了带缓存的I/O读写操作,用来帮助处...

  • 人生=工作?生活?

    过高效率的人生,工作高效率,生活状态高效率。高效率的背后,需要培养自己独立思考解决问题、规划、统筹安排的能力...

网友评论

      本文标题:Kafka-高效读写效率

      本文链接:https://www.haomeiwen.com/subject/weivictx.html