安装Spark与Python练习

本文主要是介绍安装Spark与Python练习，对大家解决编程问题具有一定的参考价值，需要的程序猿们随着小编来一起学习吧！

一、安装Spark

1. 检查基础环境hadoop,jdk
2. 下载spark
3. 解压，文件夹重命名、权限
4. 配置文件
5. 环境变量
6. 试运行Python代码

1.jdk、hadoop环境

2.spark环境

二、Python编程练习：英文文本的词频统计

1. 准备文本文件
2. 读文件
3. 预处理：大小写，标点符号，停用词
4. 分词
5. 统计每个单词出现的次数
6. 按词频大小排序
7. 结果写文件

 1.准备文本文件

 2.读文本

text = open('test.txt','r',encoding='utf-8').read()
len(text)
3.预处理:大小写，标点符号，停用词、分词、统计词频

#全部字符变成小写字符
text = text.lower()

#读取停用词，创建停用词表
stwlist = [line.strip() for line in open （'test1.txt',encoding='utf-8').readlines()]


#先进行分词
words = jieba.cut(text,cut_all = False,HMM = True)
#cut_all:是否采用全模式
#HMM：是否采用HMM模型

#去停用词,统计词频
word_ = {}
for word in words:
if word.strip() not in stwlist:
if len(word) > 1:
if word != '\t':
if word != '\r\n':
#计算词频
if word in word_:
word_[word] += 1
else:
word_[word] = 1

#将词汇和词频以元组的形式保存
word_freq = []
for word,freq in word_.items():
word_freq.append((word,freq))

4.词频排序

#进行降序排列
word_freq.sort(key = lambda x:x[1],reverse = True)

5.写入文件

txt = open("test11.txt", "w", encoding='UTF-8')
txt.write(str(word_freq))

这篇关于安装Spark与Python练习的文章就介绍到这儿，希望我们推荐的文章对大家有所帮助，也希望大家多多支持为之网！