数据湖

一文理清概念：数据中台(DMP)-数据仓库(DW)-数据湖(DL)-湖仓一体-数据治理(DG)

数据仓库、数据中台、数据湖、湖仓一体是数据管理和分析领域的重要概念，它们在功能、架构和应用场景上各有特点，同时也在演进中相互关联和补充。
Debug_Snail·2025-03-11 13:07

数据湖架构与实时数仓实践：Hudi、Iceberg、Kafka + Flink + Spark

1.引言：数据湖与数据仓库的融合趋势在大数据时代，传统的数据仓库（DataWarehouse,DW）因其强一致性和高效查询能力，一直是企业数据分析的核心。
晴天彩虹雨·2025-03-10 03:22

湖仓一体化及冷、热、实时三级存储

一、湖仓一体化（Lakehouse）湖仓一体化（Lakehouse）是数据湖（DataLake）与数据仓库（DataWarehouse）的结合，旨在解决传统数据架构中数据孤岛、存储冗余、计算性能不足等问题
麦当当MDD·2025-03-07 12:24

云原生存储架构：构建数据永续的新一代存储基础设施

Snowflake的存储计算分离架构使其数据湖查询速度提升14倍，存储成本降低82%。
桂月二二·2025-03-04 15:14

文件系统、关系型数据库、NoSQL 和数据湖

本文将介绍四种主要的数据存储方式：文件系统、关系型数据库（RDBMS）、NoSQL和数据湖。1.文件系统文件系统（FileSystem）是一种将数据按文件形式进行存储和管理的技术。
晴天彩虹雨·2025-03-04 12:46

数据整合平台Airbyte中的Shopify连接器使用指南

技术背景介绍Airbyte是一种专门用于ELT数据集成的平台，支持从API、数据库和文件到数据仓库和数据湖的管道搭建。其拥有最大规模的ELT连接器目录，支持众多的数据仓库和数据库。
bavDHAUO·2025-03-01 03:49

四、数据湖应用平台架构

数据湖应用平台是一个用于存储、处理和分析大容量、用途数据的平台。它旨在以隐蔽、高效率的方式，为企业提供全面的数据管理和应用能力。
moton2017·2025-02-28 03:51

数据湖构建

阿里云的数据湖构建（DataLake）是一种用于存储和处理大量不同类型数据的解决方案，通常用于大数据分析和机器学习等应用场景。
HaoHao_010·2025-02-28 00:25

【数据分析】4 商业数据分析技能模型总结

优秀的商业分析师需要具备的能力数据分析能力逻辑思维能力赢得结果能力一、数据分析能力扩展：工具链生态与进阶场景1.数据获取技术升级企业级数据源管理：数据湖架构（AWSS3/阿里云OSS）与数据仓库（Snowflake
loyd3·2025-02-27 19:44

使用 Airbyte 数据集成平台加载 Shopify 数据

技术背景介绍Airbyte是一个用于API、数据库及文件到仓库和数据湖的ELT管道的数据集成平台。它拥有最全的ELT连接器目录，为各种数据源提供强大支持。
fgayif·2025-02-26 19:33

如何通过高效的缓存策略无缝加速湖仓查询

随着数据湖仓和查询引擎架构的发展，开放文件格式和表格格式为数据分析带来了更好的生态兼容性和灵活性。然而，在实际应用中，特别是面向用户的实时查询场景下，数
·2025-02-24 14:57

鹰角基于 Flink + Paimon + Trino 构建湖仓一体化平台实践项目

主要分为以下四个部分：一、鹰角数据平台架构二、数据湖选型三、湖仓一体建设四、未来展望一、鹰角数据平台架构首先给大家介绍一下鹰角目前的数据平台架构。在介绍之前，关于鹰角我先给大家做简单的介绍。
·2025-02-21 19:13

【AI大数据】数据中台的数据分析与挖掘：从数据到业务的决策

文章目录1.前言2.基本概念术语说明2.1数据模型及其实体关系实体（Entity）属性（Attribute）实体关系（EntityRelationships）2.2数据仓库2.3分析引擎2.4噪声数据2.5数据湖
AI天才研究院·2025-02-21 08:34

数据统一高效管理 HashData支撑“数智石油”高质量发展

酷克数据（HashData）作为赋能石油石化企业数字化转型的先进代表，受邀参加此次行业盛会，展示了与昆仑数智携手打造的油气行业数据湖联合解决方案和创新成果。
·2025-02-19 15:02

DeepSeek的训练与优化流程

DeepSeek的训练与优化流程一、数据工程体系1.多模态数据融合处理动态数据湖架构：实时摄入互联网文本、科学论文、专利文献、传感器数据等20+数据源日均处理原始数据量达1.2PB，支持200+文件格式自动解析智能清洗流水线
程序猿000001号·2025-02-18 17:01

数据仓库和数据湖 数据仓库和数据库

数据仓库和数据湖是两种不同的数据存储解决方案，它们在设计、用途和数据管理方式上有着显著的区别。
qq_25467441·2025-02-18 12:11

数据仓库、数据湖和数据湖仓

数据仓库、数据湖和数据湖仓是三种常见的数据存储和管理技术，各自有不同的特点和适用场景。
阿湯哥·2025-02-18 11:58

数据仓库与数据湖的协同工作：智慧数据管理的双引擎

数据仓库与数据湖的协同工作：智慧数据管理的双引擎引言在数据驱动的今天，企业和组织收集和存储的数据量正以惊人的速度增长。如何高效管理和利用这些数据，成为了决策者和技术专家的共同难题。
Echo_Wish·2025-02-17 07:58

Apache Iceberg 与 Apache Hudi：数据湖领域的双雄对决

在数据存储和处理不断发展的领域中，数据湖仓的概念已经崭露头角，成为了一种变革性的力量。
夜里慢慢行456·2025-02-15 12:35

数据湖和数据仓库的区别？

简介数据湖这个概念和数据仓库这两个概念一直搞不清楚，之前感觉区别就是数据湖是数据仓库的父集。数据湖是个伪命题，平时生活中也用不到，然后今天听了我的一个师哥的讲解，然后简单总结下。
春风不会绿大地·2025-02-14 08:25

Paimon实战 -- paimon原理解析

FlinkTableStore，2022年1月在ApacheFlink社区从零开始研发，Flink社区希望能够将Flink的Streaming实时计算能力和Lakehouse新架构优势进一步结合，促进数据在数据湖上真正实时流动起来
阿华田512·2025-02-13 14:06

paimon实战 --核心原理和Flink应用进阶

简介Flink社区希望能够将Flink的Streaming实时计算能力和Lakehouse新架构优势进一步结合，推出新一代的StreamingLakehouse技术，促进数据在数据湖上真正实时流动起来，
阿华田512·2025-02-13 14:36

新型大数据架构之湖仓一体（Lakehouse）架构特性说明——Lakehouse 架构（一）

湖仓一体（Lakehouse）——新的大数据架构模式同时具备数仓与数据湖的优点湖仓一体架构存储层计算层湖仓一体特性单一存储拥有数据仓库的查询性能存算分离开放式架构支持各种数据源类型支持各种使用方式架构简单数据共享
m0_74825238·2025-02-13 05:24

关于阿里云DataWorks的20道面试题

DataWorks的基本概念围绕其作为一个大数据开发和治理的平台，它整合了多种大数据引擎如MaxCompute、Hologres、EMR、AnalyticDB、CDP等，旨在为数据仓库、数据湖及湖仓一体化解决方
编织幻境的妖·2025-02-11 01:31

【Apache Paimon】-- 2 -- 核心特性 （0.9.0）

目录1、实时更新1.1、实时大批量更新1.2、支持定义合并引擎1.3、支持定义更新日志生成器2、海量数据追加处理2.1、appendtable2.2、快速查询3、数据湖功能（类比：hudi、iceberg
oo寻梦in记·2025-02-09 16:38

Hudi VS Doris 使用分析

数据湖是一个集中式的存储库，允许你以任意规模存储多个来源、所有结构化和非结构化数据，可以按照原样存储数据，无需对数据进行结构化处理，并运行不同类型的分析对数据进行加工。
sunxunyong·2025-02-07 01:13

实时洞察41TB数据，TrafficPeak提供卓越足球观赛体验

由流式数据湖公司Hydrolix提供支持，Akamai运营的可观测性管理服务TrafficPeak，帮助媒体客户以实时的方式对重要数据进行可视化呈现，从而在各个地区平衡流量，为全球观众交付了流畅、可靠的观赛体验
Akamai中国·2025-02-05 07:43

揭秘 Fluss 架构组件

Fluss部署，带领大家部署Fluss环境，体验一下Fluss的功能Fluss整合数据湖的操作，体验Fluss与数据湖的结合讲解了Fluss、Kafka、Paimon之间的区别和联系前面三篇文章可以让大家上手玩起来
大圣数据星球·2025-02-03 20:13

Apache Iceberg数据湖技术在海量实时数据处理、实时特征工程和模型训练的应用技术方案和具体实施步骤及代码

Iceberg作为数据湖，以支持其机器学习平台中的特征存储。Iceberg的分层结构、快照机制、并发读写能力以及模式演进等特性，使得它能够高效地处理海量数据，并且保证数据的一致性和可用性。
weixin_30777913·2025-02-03 15:07

DB2-Db2StreamingChangeEventSource

在大数据和实时数据处理场景中，CDC可以用来同步数据到其他系统，比如数据仓库、数据湖或者流处理平台如ApacheKafka。文章目录前言一、核心功能
DataLu·2025-01-31 09:15

Apache Airflow 全面解析

其核心设计理念是“WorkflowsasCode”，通过编程方式定义、调度和监控复杂的数据流水线（Pipeline），适用于ETL、机器学习模型训练、数据湖管理、报表生成等场景。
由数入道·2025-01-30 18:20

破解数据模型相似度计算难题：为数据应用清障

引言在数字化浪潮下，数据仓库和数据湖已成为企业数据管理的核心基础设施。
秉寒·2025-01-27 10:44

大数据平台建设整体架构设计方案

《大数据平台建设整体架构设计方案》关键词：大数据平台、分布式存储、分布式计算、数据仓库、数据湖、数据安全、数据质量管理、数据治理、数据挖掘、机器学习、图计算、自然语言处理、Hadoop、Spark、Flink
AI天才研究院·2025-01-27 02:55

企业信息化5：后勤管理系统

前言：随着企业各业务板块在信息化的浪潮中积极转型升级，后勤板块往往成为了一个企业信息化的短板，后勤业务大数据无法融入企业信息化数据湖，进而影响企业整体运营的效率和质量。
mosquito_lover1·2025-01-27 02:52

如何使用 StarRocks 管理和优化数据湖中的数据？

数据湖已成为企业存储、处理和分析海量数据的核心基础设施。然而，随着数据量的爆炸性增长，如何高效地管理和优化数据湖中的大规模数据成为了一个亟待解决的问题。
·2025-01-24 11:51

【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi

FlinkCDC实时同步Mysql全量加增量数据到Hudi前言FlinkCDC是基于Flink开发的变化数据获取组件（Changedatacapture），简单的说就是来捕获变更的数据，ApacheHudi是一个数据湖平台
JasonLee实时计算·2025-01-24 09:31

使用Airbyte实现数据集成的详细指南

Airbyte是一个功能强大的数据集成平台，专门用于从API、数据库和文件构建到仓库和数据湖的ELT（Extract,Load,Transform）管道。
dagGAIYD·2025-01-23 06:11

基于MRS-Hudi构建数据湖的典型应用场景介绍

一、传统数据湖存在的问题与挑战传统数据湖解决方案中，常用Hive来构建T+1级别的数据仓库，通过HDFS存储实现海量数据的存储与水平扩容，通过Hive实现元数据的管理以及数据操作的SQL化。
华为云技术精粹·2025-01-23 04:50

火山引擎数据飞轮2.0：聚焦Data+AI，驱动企业数智化转型

近期，火山引擎数智平台技术和产品专家受邀出席DataFun首届“数据与人工智能解决方案大会”，围绕数据飞轮2.0模式，及Data+AI领域热门话题ChatBI、多模态数据湖展开分享。
·2025-01-21 11:43

大数据湖仓一体架构未来思考

湖仓一体架构是最近1-2年时间开始频繁出现在数据开发领域的新名词。也是各大公司竞相投入的对象。网络上关于湖仓一体架构的实践文章很多，看得也很眼花缭乱。我们今天站在一个「接地气」的角度，来说一说湖仓一体架构中未来需要关注的核心框架有哪些。文章内容也没有经过仔细的斟酌，完全是一点不成熟的想法，而且站的角度不是高屋建瓴的而是从下往上的。一个基本判断是湖仓一体架构在形式上不止一种大家可以从网上看到很多关于
王知无(import_bigdata)·2025-01-20 09:27

Fluss 与数据湖的深度解析（二）

上一篇文章中我们说了Fluss与Paimon数据湖的三个相关问题：如何查询Paimon数据湖中的数据？如何查询Fluss和Paimon数据的“联合视图”？如何只查询Fluss中的数据？
大圣数据星球·2025-01-20 06:29

Fluss 与数据湖的深度解析（二）

上一篇文章中我们说了Fluss与Paimon数据湖的三个相关问题：如何查询Paimon数据湖中的数据？如何查询Fluss和Paimon数据的“联合视图”？如何只查询Fluss中的数据？
·2025-01-19 19:58

揭秘 Fluss 架构组件

Fluss部署，带领大家部署Fluss环境，体验一下Fluss的功能Fluss整合数据湖的操作，体验Fluss与数据湖的结合讲解了Fluss、Kafka、Paimon之间的区别和联系前面三篇文章可以让大家上手玩起来
·2025-01-19 19:57

全面解读 Databricks：从架构、引擎到优化策略

导语：Databricks是一家由ApacheSpark创始团队成员创立的公司，同时也是一个统一分析平台，帮助企业构建数据湖与数据仓库一体化（Lakehouse）的架构。
克里斯蒂亚诺罗纳尔多阿维罗·2025-01-19 09:27

大数据新视界 --大数据大厂之 Hudi 数据湖框架性能提升：高效处理大数据变更

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-19 05:49

传统数据湖和数据仓库的“中心化瓶颈”

传统数据湖和数据仓库的**“中心化瓶颈”**，主要是由于其架构设计和治理模式的局限性，无法有效应对现代企业中数据规模的快速增长和组织复杂性。
PersistDZ·2025-01-18 00:45

数据入湖的前提条件：数据标准 之 元数据注册

原理：在数据湖中，没有元数据
goTsHgo·2025-01-17 20:04

案例分享｜快速了解实时湖仓集一体技术如何助力企业降本增效

1.替代TD仓、Hadoop湖，助力农商行构建一体化数据平台某农商行最初构建了Teradata数据仓库、Oracle小数据平台以及Hadoop数据湖。
·2025-01-17 20:42

Apache PAIMON 学习

参考：ApachePAIMON：实时数据湖技术框架及其实践数据湖不仅仅是一个存储不同类数据的技术手段，更是提高数据分析效率、支持数据驱动决策、加速AI发展的基础设施。
潇锐killer·2025-01-16 22:54

大数据新视界 -- Hive 数据湖集成与数据治理（下）（26 / 30）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-16 16:58
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他