Spark 基本概念

Spark 基本概念_第1张图片

 #  官网部分解释 Cluster Mode Overview - Spark 3.3.0 Documentation

Application:指的是用户编写的Spark应用程序/代码, 一个完整的main方法程序,包含了Driver功能代码和分布在集群中多个节点上运行的Executor代码,

  如main方法中有WordCount代码有哪些命令会产生一个Application

  • spark/bin/pyspark 【输入exit()就退出】

  • spark/bin/spark-submit 【main方法跑完就退出】

  • spark/bin/spark-shell 【输入:quit就退出】

  • spark/bin/spark-sql 【输入exit; 就退出】

  • 在Pycharm中写完代码,右键执行run

  • spark/sbin/start-thriftserver.sh

  • 只要上面的命令都运行,就可以在webui页面查看运行情况。(一般运行时页面端口是4040,也可能会轮询到4041等)

  • 只要上面的命令都运行完毕或强行突出,那么Applic

你可能感兴趣的:(spark,大数据,分布式,scala)