一文了解数据库vs数据仓库vs数据湖
在实际工作中，我们应该如何选择使用OLTP数据库还是OLAP数据仓库还是数据湖呢？有些同学会追求时髦前沿技术，不管业务需求是什么样的，直接就上数据湖架构，这样其实是一种不负责任的表现，单纯的以自己实践为主，业务需求为次的行为。这时候就需要架构师来评估具体业务的场景以及未来发展（2-3年）来看，最适合
开源、云原生且实时分析型的现代数据仓库DataBend的介绍，及其与其它开源文件存储的结合使用实例
Databend 是一个开源、云原生且实时分析型的现代数据仓库，旨在提供高效的数据存储和处理能力。它采用 Rust 语言开发，并支持 Apache Arrow 格式以实现高性能列式存储与查询处理。
一文带你读懂：数据集市、数据仓库、数据湖
数据集市、数据仓库和数据湖都是针对不同类型数据处理需求的解决方案。数据集市关注于特定业务部门和用户需求，提供定制化的数据分析和报告；数据仓库关注于企业级数据整合和分析，提供全局的数据视角；数据湖关注于海量原始数据hello宝子们...我们是艾斯视觉擅长ui设计和前端开发10年+经验！希望我的分享能帮
JDK8 和 JDK17 下基于JDBC连接Kerberos认证的Hive(代码已测试通过)
打开了debug后,如果是正常情况,我们能观察到控制台会打印到krb5.conf相关内容信息,出现问题优先根据debug日志查看,如果没有打印出krb5文件内容,去看看路径/文件权限。之前自研平台是基于jdk8开发的,连接带Kerberos的hive也是jdk8,现在想升级jdk到17,发现过Ker
银行数据仓库体系实践（2）--系统架构
（2）元数据管理：元数据指描述数据的数据，比如数据表和数据字段的定义以及关系，那在元数据中除了查询数据仓库中各表和字段的定义外，最重要的还有两个功能：血缘分析和影响分析。UML对系统架构的定义是：系统的组织结构，包括系统分解的组成部分，它们的关联性，交互，机制和指导原则，例如对系统群就是定义各子系统
Maxwell+RabbitMq实现数据同步
Maxwell是由美国Zendesk开源，用Java编写的MySQL等关系型数据库的实时抓取软件，能够实时抓取MySQL二进制日志binlog，并生成JSON格式的消息，作为生产者发送给kafaka、RabbitMQ、Redis等系统的应用程序。ETL、维护缓存、收集表级别的DML指标、增量数据同步
Hive-函数总结
Hive函数总结，简单实用，举例
数据仓库现代化和迁移解决方案Datametica
Datametica在自动化工具的帮助下,通过在整个数据管道(从数据湖评估到数据湖分析)中使用循环流程，确保数据湖的成功实施。Datametica在自动化工具的帮助下，在整个数据管道(从数据湖评估到数据湖分析)中使用循环流程，确保数据湖的成功实施。这些工具简化并自动化了数据迁移过程，帮助企业实现数据
HiveSQL题——用户连续登陆
HiveSQL题——用户连续登陆
数据仓库模型设计：从架构到实践的全方位指南
数仓主题是指通过“上帝视角”将企业不同业务流程信息进行分类、汇总，然后对其进行分析利用的一个抽象化概念。也是企业中某一分析领域具体的分析对象，每个数仓分析领域都又一个数仓主题相呼应。
数据仓库-相关概念
数据仓库是一个用于集成、存储和管理大量数据的系统。它用于支持企业决策制定过程中的数据分析和报告需求。数据仓库从多个来源收集和整合数据，并将其组织成易于查询和分析的结构。数据仓库的主要目标是提供高性能的数据访问和分析能力，以便用户可以从不同的角度和层次上理解和解释数据。它通常包含历史数据，用于支持趋势
【hive】- 使用insert into/insert overwrite插入数据到静态分区、动态分区、动静态分区
使用insert into/insert overwrite插入数据到静态分区、动态分区、动静态分区
一文了解数据库，数据仓库，数据湖，数据集市，数据湖仓
数据库，数据仓库，数据湖，数据集市，数据湖仓的相同点和区别。
Hive权限管理
基于存储的授权 - 可以对Metastore中的元数据进行保护，但是没有提供更加细粒度的访问控制（例如：列级别、行级别）。基于SQL标准的Hive授权 - 完全兼容SQL的授权模型，推荐使用该模式。hive默认授权 - 设计目的仅仅只是为了防止用户产生误操作，而不是防止恶意用户访问未经授权的数据。
【美团】交易系统平台-数据仓库研发工程师
更新时间：2024/01/28｜工作地点：北京市｜事业群：到家事业群｜工作经验：3年到家研发平台秉承“零售+科技”战略，致力于推动餐饮、零售需求侧和供给侧数字化升级，构建了超大规模的在线交易平台和实时调度系统，保障了百万商家和亿级用户的高效安全交易，实现了对百万骑手所在物理世界全链路的数字化。随着万
数据仓库与Hadoop：如何实现大规模数据处理
1.背景介绍数据仓库和Hadoop都是处理大规模数据的重要技术，它们在现代数据科学和人工智能中发挥着至关重要的作用。数据仓库是一种用于存储和管理大量历史数据的系统，主要用于数据分析和报告。而Hadoop是一个开源的分布式文件系统和数据处理框架，主要用于处理大规模、分布式的实时数据。在本文中，我们将深
Hive初体验
{runjar就是metastore；hadoop要先启动 }进入到Hive Shell 环境中，可以直接执行SQL的语句；首先，确保启动了Metastore服务。
【Hive_05】企业调优1（资源配置、explain、join优化）
Explain呈现的执行计划，由一系列Stage组成，这一系列Stage具有依赖关系，每个Stage对应一个MapReduce Job，或者一个文件系统操作等。stage可以对应mr，也可以对应文件系统操作。因为不是所有的sql语句的底层都是mr。比如说load语句，底层就不是mr而是文件系统操作。
2024大数据“打假”：什么才是真湖仓一体？
湖仓一体是通过一套架构，满足所有的分析需求，抽象化的描述，要能实现 One Data、All Analytics 的业务价值。
SparkSQL和Hive语法差异
rand()nullvoidCTAS建表。
