0


大数据Apache Druid(一):Druid简单介绍和优缺点

Druid简单介绍和优缺点

一、什么是Apache Druid

Druid(德鲁伊)是一个分布式的、支持实时多维 OLAP 分析列式存储的数据处理系统,支持高速的实时数据读取处理、支持实时灵活的多维数据分析查询。在Druid数十台分布式集群中支持每秒百万条数据写入,对亿万条数据读取做到亚秒到秒级响应。此外,Druid支持根据时间戳对数据进行预聚合摄入和聚合分析,在时序数据处理分析场景中也可以使用Druid。

Druid有对应的GUI页面,适用于实时数据提取、高性能查询场景,例如:点击流分析、网络性能监控分析、实时在线OLAP分析等。Druid官网地址:http://druid.apache.org/

****注意:****阿里巴巴有个开源项目也叫Druid,是一个数据库连接池项目。这里说的Apache Druid与阿里巴巴的Druid没有关系。

二、Druid优缺点

Druid有如下特点,也可以看做是Druid的优点:

  • 列式存储

Druid使用面相列的存储,对于OLAP分析需要读取列分析的场景加快了速度,同时一列数据中有很多共性的数据,数据的压缩效果好,占用空间小,支持快速扫描及聚合查询。

  • 可扩展的分布式架构

Druid在生产环境中可以部署到数十台多数百台服务器组成的集群中,可以提供每秒百万条数据的写入,针对万亿条记录做到亚秒到秒级查询。

  • 支持并行计算

Druid可以在集群中并行执行一个查询。

  • 支持实时或者批量读取数据

Druid支持实时获取数据,实时获取的数据可以实时查询,也支持批量读取数据。

  • 集群自动平衡,方便运维

Druid集群扩大或者缩小时,只需要增加或者减少对应的机器数,Druid集群自动会平衡各个节点,不需要停机。

  • 对数据进行预聚合或预计算

Druid可以人为指定按照某些时间粒度对相同维度的数据进行预聚合计算,既加快了查询速度,也减少了数据存储空间。

  • bitmap索引快速过滤

Druid中可以通过bitmap构建索引,对数据进行压缩,加快查询过滤速度。

  • 基于时间的分区

Druid首先按照时间对数据进行分区,也可以使用其他字段作为分区,这样可以加快查询速度,例如:基于时间的查询只会查询与时间匹配的分区。

Druid主要的优点在于支持流式和批量数据的导入、高并发亚秒级查询、存储索引优化。但是还有一些缺点,缺点如下:

  • 有限的join能力

Druid适用于清洗好的数据实时写入,不需要更新数据,所以数据在写入Druid之前一般需要拉宽处理,在从Druid中查询数据时,直接查询这张宽表即可。在Druid最新版本0.21.1支持join,join右侧的表都会自动存放内存再做关联,这样会降低性能。

  • 不支持多时间维度,所有维度为String类型
  • 只支持流式写入,不支持实时数据更新,更新可以使用批处理作业完成。
  • 不支持精准去重

  • 📢博客主页:https://lansonli.blog.csdn.net
  • 📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正!
  • 📢本文由 Lansonli 原创,首发于 CSDN博客🙉
  • 📢停下休息的时候不要忘了别人还在奔跑,希望大家抓紧时间学习,全力奔赴更美好的生活✨
标签: 大数据 apache java

本文转载自: https://blog.csdn.net/xiaoweite1/article/details/126257629
版权归原作者 Lansonli 所有, 如有侵权,请联系我们删除。

“大数据Apache Druid(一):Druid简单介绍和优缺点”的评论:

还没有评论