2.安装Spark与Python练习
2022/3/6 20:15:12
本文主要是介绍2.安装Spark与Python练习,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
一、安装Spark
1.检查基础环境hadoop,jdk
2.下载spark
(已完成,略过)
3.解压,文件夹重命名、权限
(已完成,略过)
4.配置文件
(已完成,略过)
5.环境变量
6.试运行Python代码
二、Python编程练习:英文文本的词频统计
1.准备文本文件
2.读文件
path
=
'/home/hadoop/test.txt'
with
open
(path) as f:
text
=
f.read()
3.预处理:大小写,标点符号,停用词,分词
words
=
text.lower().split()
for
c
in
'!"#$%^&*()_+-=@[]{}|\?/<>,.:;~·`、“”‘’'
:
text
=
text.replace(c,
" "
)
t={}
4.统计每个单词出现的次数,词频大小排序
for
word
in
words:
t[word]
=
t.get(word,
0
)
+
1
tlist
=
list
(t.items())
tlist.sort(key
=
lambda
x:x[
1
],reverse
=
True
)
print
(tlist)
5.结果写文件
text
=
open
(
"ttest.txt"
,
"w"
, encoding
=
'UTF-8'
)
text.write(
str
(tlist))
这篇关于2.安装Spark与Python练习的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-08有遇到过吗?同样的规则 Excel 中 比Python 结果大
- 2024-03-30开始python成长之路
- 2024-03-29python optparse
- 2024-03-29python map 函数
- 2024-03-20invalid format specifier python
- 2024-03-18pool.map python
- 2024-03-18threads in python
- 2024-03-14python Ai 应用开发基础训练,字符串,字典,文件
- 2024-03-13id3 algorithm python
- 2024-03-13sum array elements python