08 学生课程分数的Spark SQL分析
2021/6/7 19:51:59
本文主要是介绍08 学生课程分数的Spark SQL分析,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
读学生课程分数文件chapter4-data01.txt,创建DataFrame。
一、用DataFrame的操作完成以下数据分析要求
- 每个分数+5分。
- 总共有多少学生?
- 总共开设了哪些课程?
- 每个学生选修了多少门课?
- 每门课程有多少个学生选?
- 每门课程大于95分的学生人数?
- Tom选修了几门课?每门课多少分?
- Tom的成绩按分数大小排序。
- Tom的平均分。
- 求每门课的平均分,最高分,最低分。
- 求每门课的选修人数及平均分,精确到2位小数。
- 每门课的不及格人数,通过率
二、用SQL语句完成以上数据分析要求
三、对比分别用RDD操作实现、用DataFrame操作实现和用SQL语句实现的异同。(比较两个以上问题)
1.每个分数+5分.
rdd:
rdd = sc.textFile(url).map(lambda s : s.split(',')).map(lambda s : int(s[2])+5).collect()
DataFrame:
stu.select('grade',stu.grade+5).show()
SQL:
2.每门课程大于95分的学生人数?
rdd:
DataFrame:
stu.select(stu.grade > 95).count()
SQL:
stu.createOrReplaceTempView("students")
spark.sql("select * from students where grade > 95").show()
这篇关于08 学生课程分数的Spark SQL分析的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-09-28微服务架构中API版本控制的实践
- 2024-09-28AI给的和自己写的Python代码,都无法改变输入框的内容,替换也不行
- 2024-09-27Sentinel配置限流资料:新手入门教程
- 2024-09-27Sentinel配置限流资料详解
- 2024-09-27Sentinel限流资料:新手入门教程
- 2024-09-26Sentinel限流资料入门详解
- 2024-09-26Springboot框架资料:初学者入门教程
- 2024-09-26Springboot框架资料详解:新手入门教程
- 2024-09-26Springboot企业级开发资料:新手入门指南
- 2024-09-26SpringBoot企业级开发资料新手指南