美文网首页
大数据技术简介

大数据技术简介

作者: EricLihuifeng | 来源:发表于2017-09-01 18:38 被阅读191次
  1. 数据采集技术
  2. 数据存储技术
  3. 离线数据分析技术
  4. 实时数据分析技术
  5. 数据可视化技术

数据采集技术

  • 离线采集数据库数据
    sqoop
    datax
  • 实时采集数据库数据
    canel
    Oracle GoldenGate
  • 日志采集
    Flume
    Logstash
    Scribe

数据存储技术

  • 分布式文件系统
    hdfs
    alluxio
  • 键值型数据库
    hbase
    redis
  • 分布式消息队列
    Kafka
    rocketmq

离线数据分析技术

Mapreduce
Spark
impala

实时数据分析技术

  • 实时数据分析
    storm
    spark streaming
  • storm
    纯实时计算
    实时性高
  • spark streaming
    小批量计算
    复杂逻辑计算
    和hadoop生态圈结合紧密

数据可视化技术

  • 数据可视化特点
    个性化
  • 数据可视化技术
    hue
    zeppelin

相关文章

  • 大数据技术简介

    数据采集技术 数据存储技术 离线数据分析技术 实时数据分析技术 数据可视化技术 数据采集技术 离线采集数据库数据s...

  • 大数据技术简介

    大数据的发展历史 2018年9月30日,中国互联网巨头腾讯公司的总裁刘炽平发出一封全员信,正式启动了公司历史上第三...

  • MySQL应用技术3 — MVCC

    MySQL应用技术1 — MySQL架构简介MySQL应用技术2 — 事务简介MySQL应用技术4 — 数据类型选...

  • Hadoop vs Storm vs Samza vs Spar

    简介 大数据是收集、整理、处理大容量数据集,并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力...

  • 全面解析大数据框架的区别

    简介 大数据是收集、整理、处理大容量数据集,并从中获得见解所需的非传统战略和技术的总称。虽然处理数据所需的计算能力...

  • 第一行代码(六)

    第六章内容主讲数据持久化技术 一、数据持久化技术简介   数据持久化技术就是将瞬时数据(存储在内存中,有可能会因为...

  • mysql一章

    mysql简介概述 数据库技术的发展 数据库技术是应数据管理任务的需求而产生的,随着计算机技术的发展,对数据管理技...

  • Day7-庚帅博方便面

    Copy from here 测序技术原理及常用数据格式简介

  • [转]MYSQL--表分区、查看,建立,删除

    一、 mysql分区简介 数据库分区 数据库分区是一种物理数据库设计技术。虽然分区技术可以实现很多效果...

  • 【网络技术控】NetFlow网络业务流量监测技术

    NetFlow技术简介 NetFlow是一种网络数据包交换技术,该技术首先被用于网络设备对数据交换进行加速,并可同...

网友评论

      本文标题:大数据技术简介

      本文链接:https://www.haomeiwen.com/subject/cepkjxtx.html