spark（scala）

顶级Web应用程序测试工具列表

Web应用程序测试工具：WebLOADDigivanteAcunetixInvicti(formerlyNetsparker)TestCompleteAvoAssureAstraWeb功能
旧游无处不堪寻·2025-03-29 11:23

Spark2 之 Expression/Functions

ExpressionConvertersrc/main/scala/org/apache/gluten/expression/ExpressionConverter.scalaTopNTransformersrc
zhixingheyi_tian·2025-03-29 01:41

Spark2 之 FallBack

newValidatorsrc/main/scala/org/apache/gluten/extension/columnar/validator/Validators.scala/***Avalidatorthatdoesn'tinvolvenativevalidation
zhixingheyi_tian·2025-03-29 01:41

【自学笔记】Spark基础知识点总览-持续更新

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录ApacheSpark基础知识点总览目录简介核心组件SparkSQLDataFrame与DatasetAPIRDD（弹性分布式数据集
Long_poem·2025-03-29 01:37

Spark 从HDFS读取时，通常按文件块（block）数量决定初始partition数，这是怎么实现的？

在Spark中，从HDFS读取数据时按文件块（block）数量决定初始partition数，这一机制是通过HadoopInputFormat的分片（split）策略实现的。
闯闯桑·2025-03-28 16:33

【ESP32】【LLM API】Accessing the Xunfei Spark LLM API with ESP32

AccessingtheXunfeiSparkLLMAPIwithESP32Real-timeconversationwithXunfeiSparklargelanguagemodelviaESP32microcontrollerIntroductionWiththerapiddevelopmentofartificialintelligencetechnology
hmywillstronger·2025-03-28 06:21

Buffer overFolw---Kryo序列化出现缓冲区溢出的问题解决

问题：由于我的数据量太大，我设置批次为10000万，50w数据大概有400M左右，然后进行spark数据处理时候报错为org.apache.spark.SparkException:Kryoserializationfailed
Matrix70·2025-03-27 22:59

Scala语言的移动应用开发

Scala语言在移动应用开发中的应用探讨引言随着移动互联网的迅猛发展，移动应用已成为现代生活的重要组成部分。
闻瑾萱·2025-03-27 18:24

Scala

Scala和Java及JVM关系图Javac.class字节码文件编译器Java运行Scala的SDK//1.Java的部分类库//2.特有类库//3.对Java的类库做了包装Scala运行.scala
超帅的好吧·2025-03-27 14:48

Spark大数据分析与实战笔记（第四章 Spark SQL结构化数据文件处理-01）

文章目录每日一句正能量第4章SparkSQL结构化数据文件处理章节概要4.1SparkSQL概述4.1.1SparkSQL的简介4.1.2SparkSQL架构每日一句正能量世事洞明皆学问，人情练达即文章
想你依然心痛·2025-03-27 10:19

Hadoop/Spark 生态

Hadoop/Spark生态是大数据处理的核心技术体系，专为解决海量数据的存储、计算和分析问题而设计。以下从底层原理到核心组件详细讲解，帮助你快速建立知识框架！一、为什么需要Hadoop/Spark？
不辉放弃·2025-03-27 09:15

数据湖和Apache Iceberg，Apache Hudi，Delta Lake

数据湖这个词目前已经流行开来，逐步被数据相关的从业者接受，可能还有很多人不太清楚它和Hadoop，Hive，Spark这些大数据系统的区别，简单说数据湖是个业务概念，主要是为了区别传统数仓这个概念的（传统数仓的定义
西土城计划·2025-03-27 05:17

1.Kafka介绍

1.关于KafkaKafka是由Apache软件基金会开发的一个开源流处理平台，由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费组在网站中的所有动作流数据。
小黑要上天·2025-03-26 23:02

PySpark二：常见数据格式及如何读写

在日常工作中，常见的数据文件格式有csv,json和parquet.Comma-separatedvalues(CSV)是一种直接以纯文本方式保存的文件，通常第一行定义了列名，后面是数据。没列之间用逗号分割。因为这个格式是纯文本的，几乎可以用文本编辑器都可以打开。Json也是常见的格式，个人理解可以看做是Key-valuepair来保存数据。如果有很多行数据，每一行的数据都有相同的key的话，个人
·2025-03-26 21:52

读取hdfs上snappy压缩文件并发送kafka的两种方式速度测试

snappy压缩的文件，要把这份文件中的数据读出来并发送给kafka解决思路平时我90%的时间都是在消费kafka，现在要写入kafka，我承认我第一反应是懵逼的；不过这并难不倒天资聪慧的我，我首先想到的就是用spark
今天上上签·2025-03-26 04:40

【git系列】git-revert含义用法选项示例详解

【git系列】git-revert含义用法选项示例详解源自专栏《GradleScalaTestmarkdownideaGit中文实用教程目录?》
BigDataMLApplication·2025-03-25 09:49

OpenCV 基础模块 Python 版

OpenCV基础模块权威指南（Python版）一、模块全景图plaintextOpenCV架构(v4.x+)├─核心层│├─core：基础数据结构与操作（Mat/Scalar/Point）│└─imgproc
ice_junjun·2025-03-24 15:31

【Python系列】高效Parquet数据处理策略：合并与分析实践

Parquet作为一种高效的列存储格式，被广泛应用于大数据处理框架中，如ApacheSpark、ApacheHive等。
小团团0·2025-03-24 12:41

AsyncHttpClient使用说明书

[[toc]]AsyncHttpClient（AHC）是一个高性能、异步的HTTP客户端库，广泛用于Java和Scala应用中，特别适合处理高并发、非阻塞的HTTP请求。
有梦想的攻城狮·2025-03-24 04:57

spark explain如何使用

在Spark中，explain是分析SQL或DataFrame执行计划的核心工具，通过不同模式可展示查询优化和执行的详细信息，默认情况下，这个语句只提供关于物理计划的信息。
fzip·2025-03-24 00:14

【Spark】查询优化中分区（Partitioning）和分桶（Bucketing）是什么关系？什么时候应当分区，什么时候应当分桶？

在学习Spark的过程中，分区和分桶乍一看很像，都能为了计算加速，但是仔细一想，一查还是有些差异的，甚至说差异很大。那么具体有什么差异点，有什么相同点。我做出了如下的整理，供大家参考，欢迎指正。
petrel2015·2025-03-23 23:37

pyspark学习rdd处理数据方法——学习记录

python黑马程序员"""文件，按JSON字符串存储1.城市按销售额排名2.全部城市有哪些商品类别在售卖3.上海市有哪些商品类别在售卖"""frompysparkimportSparkConf,SparkContextimportosimportjsonos.environ
亭午·2025-03-23 20:12

数据湖Iceberg、Hudi和Paimon比较_数据湖框架对比(1)

ApacheIcebergApacheHudiApachePaimonSchemaEvolutionALLback-compatibleback-compatibleSelf-definedschemaobjectYESNO(spark-schema
2301_79098963·2025-03-23 17:45

Apache大数据旭哥优选大数据选题

售后态度和技术都很重要定制按需求做要求不高就实惠一点定制需提前沟通好怎么做，这样才能避免不必要的麻烦python、flask、Django、mapreduce、mysqljava、springboot、vue、echarts、hadoop、spark
Apache大数据旭·2025-03-23 13:12

[AI速读]CHISEL vs. SystemVerilog：用RISC-V核心对比两种硬件设计语言

最近，一项研究对比了两种硬件描述语言——CHISEL（基于Scala的嵌入式语言）和传统的SystemVerilog，它们分别实现了同一款RISC-V核心（SweRV-EL2）。以下是关键发现和结论。
iccnewer·2025-03-23 04:29

Azure Delta Lake、Databricks和Event Hubs实现实时欺诈检测

AzureEventHubs/Kafka摄入实时数据，通过DeltaLake实现Exactly-Once语义，实时欺诈检测（流数据写入DeltaLake，批处理模型实时更新），以及具体实现的详细步骤和关键PySpark
weixin_30777913·2025-03-23 03:12

探索终端的新境界：Scurses与Onions框架深度揭秘

探索终端的新境界：Scurses与Onions框架深度揭秘ScursesScurses,terminaldrawingAPIforScala,andOnions,aScursesframeworkforeasyterminalUI
雷竹榕·2025-03-22 23:15

探索数据安全新境界：Apache Spark SQL Ranger Security插件深度揭秘

探索数据安全新境界：ApacheSparkSQLRangerSecurity插件深度揭秘项目地址:https://gitcode.com/gh_mirrors/sp/spark-ranger随着大数据的爆炸性增长
乌昱有Melanie·2025-03-22 23:44

基于Azure云平台构建实时数据仓库

设计Azure云架构方案实现AzureDeltaLake和AzureDatabricks，结合电商网站的流数据，构建实时数据仓库，支持T+0报表（如电商订单分析），具以及具体实现的详细步骤和关键PySpark
weixin_30777913·2025-03-22 18:15

优化Apache Spark性能之JVM参数配置指南

ApacheSpark运行在JVM之上，JVM的垃圾回收（GC）、内存管理以及堆外内存使用情况，会直接对Spark任务的执行效率产生影响。
weixin_30777913·2025-03-21 13:58

GraphCube、Spark和深度学习技术赋能快消行业关键运营环节

GraphCube图多维数据集技术、Spark大数据分析处理技术和深度学习技术的结合，为这些环节提供了智能化、动态化和实时化的解决方案，显著提升业务运营效率和企业利润。一、技术
weixin_30777913·2025-03-21 13:28

IDEA本地启动flink 任务

1pom中添加org.apache.flinkflink-clients_${scala.binary.version}${flink.version}org.apache.flinkflink-runtime-web
Direction_Wind·2025-03-21 13:22

【新品发售】NVIDIA 发布全球最小个人 AI 超级计算机 DGX Spark

GTC2025大会上，NVIDIA正式推出了搭载NVIDIAGraceBlackwell平台的个人AI超级计算机——DGXSpark。赞奇可接受预订，直接私信后台即刻预订！
·2025-03-21 12:09

Kafka Connect Node.js Connector 指南

KafkaConnectNode.jsConnector指南kafka-connectequivalenttokafka-connect:wrench:fornodejs:sparkles::turtle
丁操余·2025-03-21 12:39

JAVA学习-练习试用Java实现“对大数据集中的网络日志进行解析和异常行为筛查”

问题：编写一个Spark程序，对大数据集中的网络日志进行解析和异常行为筛查。解答思路：下面是一个简单的Spark程序示例，用于解析网络日志并筛查异常行为。
守护者170·2025-03-21 07:30

JAVA学习-练习试用Java实现“实现一个Spark应用，对大数据集中的文本数据进行情感分析和关键词筛选”

问题：实现一个Spark应用，对大数据集中的文本数据进行情感分析和关键词筛选。
守护者170·2025-03-21 07:30

Hive与Spark的UDF：数据处理利器的对比与实践

文章目录Hive与Spark的UDF：数据处理利器的对比与实践一、UDF概述二、HiveUDF解析实现原理代码示例业务应用三、SparkUDF剖析-JDBC方式使用SparkThriftServer设置通过
窝窝和牛牛·2025-03-20 23:22

尚硅谷电商数仓6.0，hive on spark,spark启动不了

在datagrip执行分区插入语句时报错[42000][40000]Errorwhilecompilingstatement:FAILED:SemanticExceptionFailedtogetasparksession
新时代赚钱战士·2025-03-20 20:57

数据中台（二）数据中台相关技术栈

1.平台搭建1.1.Amabari+HDP1.2.CM+CDH2.相关的技术栈数据存储：HDFS，HBase，Kudu等数据计算：MapReduce,Spark,Flink交互式查询：Impala,Presto
Yuan_CSDF·2025-03-20 05:25

从0到1，带你快速上手Scala语言

什么是ScalaScala，读作“skah-lah”，是“ScalableLanguage”的缩写，是一门多范式编程语言。
qq_23519469·2025-03-20 04:19

一文搞懂大数据神器Spark，真的太牛了！

Spark是什么在如今这个大数据时代，数据量呈爆炸式增长，传统的数据处理方式已经难以满足需求。就拿电商平台来说，每天产生的交易数据、用户浏览数据、评论数据等，数量巨大且种类繁多。
qq_23519469·2025-03-20 04:19

Flink读取kafka数据并写入HDFS

硬刚大数据系列文章链接：2021年从零到大数据专家的学习指南(全面升级版)2021年从零到大数据专家面试篇之Hadoop/HDFS/Yarn篇2021年从零到大数据专家面试篇之SparkSQL篇2021
王知无(import_bigdata)·2025-03-19 22:59

元戎启行最新战略RoadAGI：所有移动智能体都将被AI驱动

会上，公司CEO周光发表了技术主题演讲，展示了公司的最新战略布局RoadAGI，并发布道路通用人工智能平台——AISpark（以下简称”Spark平台”）。
·2025-03-19 16:16

SparkSQL编程-RDD、DataFrame、DataSet

三者之间的关系在SparkSQL中Spark为我们提供了两个新的抽象，分别是DataFrame和DataSet。他们和RDD有什么区别呢？
早拾碗吧·2025-03-19 14:24

How Spark Read Sftp Files from Hadoop SFTP FileSystem

GradleDependenciesimplementation('org.apache.spark:spark-sql_2.13:3.5.3'){excludegroup:"org.apache.logging.log4j
IT•轩辕·2025-03-19 13:18

pyspark 遇到**Py4JJavaError** Traceback (most recent call last) ~\AppData\

1401292359.pyin---->1feat_df.show(5,vertical=True)D:\Anaconda3\envs\recall-service-cp4\lib\site-packages\pyspark
2pi·2025-03-19 12:44

中电金信25/3/18面前笔试（需求分析岗+数据开发岗）

MapReduceSparkStormFlink解析：Hadoop的核心组件是HDFS（分布式文件系统）和MapReduce（分布式计算框架）。
苍曦·2025-03-19 12:43

Linux系统下Conda安装状态检查与环境管理指南

1.Conda简介Conda是一个跨平台的软件包管理系统，它不仅能够管理Python包，还能管理R、Ruby、Lua、Scala等其他语言的包。C
2401_85812053·2025-03-19 06:19

Spark集群启动与关闭

Hadoop集群和Spark的启动与关闭Hadoop集群开启三台虚拟机均启动ZookeeperzkServer.shstartMaster1上面执行启动HDFSstart-dfs.shslave1上面执行开启
陈沐·2025-03-18 23:17

Spark 解析_spark.sparkContext.getConf().getAll()

spark.sparkContext.getConf().getAll()是ApacheSpark中的一段代码，用于获取当前Spark应用程序的所有配置项及其值。
闯闯桑·2025-03-18 21:03
上一页 16 17 18 19 20 21 22 23 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他