2.安装Spark与Python练习

2022/3/6 20:15:24

编程Tag： text word python Spark 词频练习略过 TList

本文主要是介绍2.安装Spark与Python练习，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

一、安装Spark

1.检查基础环境hadoop,jdk

2.下载spark

（已完成，略过）

3.解压，文件夹重命名、权限

（已完成，略过）

4.配置文件

（已完成，略过）

5.环境变量

6.试运行Python代码

二、Python编程练习：英文文本的词频统计

1.准备文本文件

2.读文件

path='/home/hadoop/lh.txt' with open(path) as f: text=f.read() 3.预处理：大小写，标点符号，停用词，分词 words = text.lower().split() for c in '!"#$%^&*()_+-=@[]{}|\?/<>,.:;~·`、“”‘’': text = text.replace(c, " ") t={} 4.统计每个单词出现的次数，词频大小排序 for word in words: t[word]=t.get(word,0)+1 tlist=list(t.items()) tlist.sort(key=lambda x:x[1],reverse=True) print(tlist) 5.结果写文件 text = open("lh.txt", "w", encoding='UTF-8') text.write(str(tlist))

这篇关于2.安装Spark与Python练习的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！

2.安装Spark与Python练习

相关编程文章