spark-----Spark SQL

spark-----Spark SQL

  • spark-----Spark SQL
    • SparkSQL概述
      • SparkSQL是什么
      • Hive and SparkSQL
      • SparkSQL特点
        • 易整合
        • 统一的数据访问
        • 兼容Hive
        • 标准数据连接
      • DataFrame是什么
      • DataSet是什么
    • SparkSQL核心编程
      • 新的起点
      • DataFrame
        • 创建DataFrame
        • SQL语法
        • DSL语法
        • RDD转换为DataFrame
        • DataFrame准换为RDD
      • DataSet
        • 创建DataSet
        • RDD转换为DataSet
        • DataSet转换为RDD
      • IDEA开发SparkSQL程序
      • 用户自定义函数
        • UDF
      • 数据的加载和保存
        • 通用的加载和保存方式
        • Parquet
        • JSON
        • CSV
        • MySQL
        • Hive

spark-----Spark SQL

SparkSQL概述

SparkSQL是什么

spark-----Spark SQL_第1张图片

Hive and SparkSQL

spark-----Spark SQL_第2张图片
spark-----Spark SQL_第3张图片
spark-----Spark SQL_第4张图片
spark-----Spark SQL_第5张图片
spark-----Spark SQL_第6张图片
spark-----Spark SQL_第7张图片
spark-----Spark SQL_第8张图片
spark-----Spark SQL_第9张图片

SparkSQL特点

易整合

spark-----Spark SQL_第10张图片

统一的数据访问

在这里插入图片描述
spark-----Spark SQL_第11张图片

兼容Hive

spark-----Spark SQL_第12张图片

标准数据连接

spark-----Spark SQL_第13张图片

DataFrame是什么

spark-----Spark SQL_第14张图片
spark-----Spark SQL_第15张图片
spark-----Spark SQL_第16张图片
spark-----Spark SQL_第17张图片
spark-----Spark SQL_第18张图片
spark-----Spark SQL_第19张图片
spark-----Spark SQL_第20张图片

DataSet是什么

spark-----Spark SQL_第21张图片
spark-----Spark SQL_第22张图片

SparkSQL核心编程

在这里插入图片描述

新的起点

spark-----Spark SQL_第23张图片
spark-----Spark SQL_第24张图片
spark-----Spark SQL_第25张图片

DataFrame

在这里插入图片描述

创建DataFrame

spark-----Spark SQL_第26张图片

spark-----Spark SQL_第27张图片
spark-----Spark SQL_第28张图片
spark-----Spark SQL_第29张图片
spark-----Spark SQL_第30张图片
在这里插入图片描述

SQL语法

在这里插入图片描述
spark-----Spark SQL_第31张图片
spark-----Spark SQL_第32张图片
在这里插入图片描述
spark-----Spark SQL_第33张图片
spark-----Spark SQL_第34张图片

DSL语法

spark-----Spark SQL_第35张图片
spark-----Spark SQL_第36张图片

spark-----Spark SQL_第37张图片
spark-----Spark SQL_第38张图片
spark-----Spark SQL_第39张图片
spark-----Spark SQL_第40张图片
spark-----Spark SQL_第41张图片
在这里插入图片描述

RDD转换为DataFrame

spark-----Spark SQL_第42张图片
spark-----Spark SQL_第43张图片
spark-----Spark SQL_第44张图片
spark-----Spark SQL_第45张图片

在这里插入图片描述

DataFrame准换为RDD

spark-----Spark SQL_第46张图片
spark-----Spark SQL_第47张图片
spark-----Spark SQL_第48张图片

DataSet

在这里插入图片描述
spark-----Spark SQL_第49张图片

创建DataSet

spark-----Spark SQL_第50张图片
spark-----Spark SQL_第51张图片

在这里插入图片描述

RDD转换为DataSet

spark-----Spark SQL_第52张图片
spark-----Spark SQL_第53张图片

DataSet转换为RDD

spark-----Spark SQL_第54张图片
spark-----Spark SQL_第55张图片

IDEA开发SparkSQL程序

用户自定义函数

UDF

spark-----Spark SQL_第56张图片
spark-----Spark SQL_第57张图片

数据的加载和保存

通用的加载和保存方式

spark-----Spark SQL_第58张图片
spark-----Spark SQL_第59张图片
spark-----Spark SQL_第60张图片
spark-----Spark SQL_第61张图片
spark-----Spark SQL_第62张图片
spark-----Spark SQL_第63张图片

Parquet

spark-----Spark SQL_第64张图片

JSON

spark-----Spark SQL_第65张图片
spark-----Spark SQL_第66张图片

CSV

spark-----Spark SQL_第67张图片

MySQL

spark-----Spark SQL_第68张图片
在这里插入图片描述
spark-----Spark SQL_第69张图片

Hive

spark-----Spark SQL_第70张图片
spark-----Spark SQL_第71张图片
spark-----Spark SQL_第72张图片
spark-----Spark SQL_第73张图片

spark-----Spark SQL_第74张图片
spark-----Spark SQL_第75张图片
spark-----Spark SQL_第76张图片
spark-----Spark SQL_第77张图片
spark-----Spark SQL_第78张图片
spark-----Spark SQL_第79张图片
spark-----Spark SQL_第80张图片
spark-----Spark SQL_第81张图片

你可能感兴趣的:(spark-----Spark SQL)