启动spark
2022/8/23 23:24:17
本文主要是介绍启动spark,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
1.启动spark命令
1. start-dfs.sh 2. start-yarn.sh 3. start-spark-all.sh 4. start-history-server.sh 5. spark-shell --master spark://node1:7077
2. 创建RDD数据集
1. 从现有的Scala集合创建RDD数据集
- parallelize(Seq, numSlices):第二个参数不用传递,代表创建的RDD的分区数,如果没传递,有一个默认值
默认分区就是spark.default.parallelism
如果master是local[n],那么这个值就是n,如果yarn和standalone上运行的话,spark.default.parallelism=yarn/standalone - makeRDD也是从集合中创建RDD数据集
makeRDD(Seq, numSlices) -- 底层是parallelize实现的
makeRDD(Seq( ( T, Seq(String) ) ) ) -- 这种方式可以指定分区数据在那个节点上
2. 从外部文件系统创建RDD数据集(HDFS)
3. 从另外一个RDD使用转换算子创建RDD数据集
这篇关于启动spark的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-09“2024鸿蒙零基础快速实战-仿抖音App开发(ArkTS版)”实战课程已上线
- 2024-05-09聊聊如何通过arthas-tunnel-server来远程管理所有需要arthas监控的应用
- 2024-05-09log4j2这么配就对了
- 2024-05-09nginx修改Content-Type
- 2024-05-09Redis多数据源,看这篇就够了
- 2024-05-09Google Chrome驱动程序 124.0.6367.62(正式版本)去哪下载?
- 2024-05-09有没有大佬知道这种数据应该怎么抓取呀?
- 2024-05-09这种运行结果里的10.100000001,怎么能最快改成10.1?
- 2024-05-09企业src漏洞挖掘-有意思的命令执行
- 2024-05-08阿里云域名注册流程,分享给第一次购买域名的新手站长!