美文网首页clickhouse大数据-clickhouse
配置clickhouse冷热数据分离

配置clickhouse冷热数据分离

作者: 响指_郭彦超 | 来源:发表于2019-10-08 14:40 被阅读0次

在 config.d 中加入如下配置

  • 配置存储目录
<disks>
    <fast_disk> <!-- disk name -->
        <path>/mnt/fast_ssd/clickhouse</path>  #ssd 数据目录
    </fast_disk>
    <disk1>
        <path>/mnt/hdd1/clickhouse</path> # 普通盘数据目录
        <keep_free_space_bytes>10485760</keep_free_space_bytes> # 磁盘预留空间
    </disk1>
    <disk2>
        <path>/mnt/hdd2/clickhouse</path> # 普通盘数据目录
        <keep_free_space_bytes>10485760</keep_free_space_bytes> # 磁盘预留空间
    </disk2>
</disks>
 
  • 配置存储策略
<policies>
       <ssd_to_hdd>
        <volumes>
            <hot>
                <disk>fast_disk</disk>
                <max_data_part_size_bytes>1073741824</max_data_part_size_bytes>   # 数据块大小
            </hot>
            <cold>
                <disk>disk1</disk>
                <disk>disk2</disk>
            </cold>
            <move_factor>0.2</move_factor>  # 当SSD数据盘低于20%存储时会将历史数据存储到hdd
        </volumes>
    </ssd_to_hdd>
</policies>
 
  • 在创建表时引用数据存储策略
CREATE TABLE table_with_non_default_policy (
    EventDate Date,
    OrderID UInt64,
    BannerID UInt64,
    SearchPhrase String
) ENGINE = MergeTree
ORDER BY (OrderID, BannerID)
PARTITION BY toYYYYMM(EventDate)
SETTINGS storage_policy = 'ssd_to_hdd'

相关文章

  • 配置clickhouse冷热数据分离

    在 config.d 中加入如下配置 配置存储目录 配置存储策略 在创建表时引用数据存储策略

  • Redis使用建议规范

    合理选择Redis部署模式 查看推荐配置 冷热数据分离,不要将所有数据全部都放到Redis中 建议根据业务只将高频...

  • ClickHouse冷热数据备份思考

    基于ClickHouse来实现实时数仓,一般来说我们可以将热数据存储在ClickHouse中,比如:存储最近30天...

  • elastic 冷热数据分离

    分析 管理es节点角色划分、并发shard与线程池设定、冷热数据分离、定期合并segment等 索引特点当天索引写...

  • Sharding-JDBC-Java配置

    JAVA配置 配置示例 数据分片 读写分离 数据分片 + 读写分离 数据分片 + 数据脱敏 治理 配置项说明 数据...

  • Shopee x JuiceFS:ClickHouse 冷热数据

    本文来自 shopee 技术团队 摘要 Shopee ClickHouse 是一款基于开源数据库 ClickHou...

  • Sharing-Sphere之Spring Boot配置

    配置示例 数据分片 + 读写分离 配置项说明 数据分片 读写分离

  • Sharding-JDBC-Yaml配置

    YAML配置 配置示例 数据分片 读写分离 数据分片 + 读写分离 数据分片 + 数据脱敏 治理 配置项说明 co...

  • mysql相关

    数据的冷热分离,归档 冷数据:使用频率极低热数据:使用比较多的数据加入冷热数据放入同一个表,表的数据比较多,根据m...

  • ClickHouse 冷热分离存储在得物的实践

    1. 业务背景 得物上一代日志平台的存储主要依赖于 ES。随着公司业务的高速发展,日志场景逐步产生了一些新需求,主...

网友评论

    本文标题:配置clickhouse冷热数据分离

    本文链接:https://www.haomeiwen.com/subject/owwructx.html