2.安装Spark与Python练习

2022/3/8 22:14:44

本文主要是介绍2.安装Spark与Python练习,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

一、安装Spark

  1. 检查基础环境hadoop,jdk

            

 

            

 

 

 

  2.下载spark

       

 

 

 

  3.配置文件

  配置环境
  vim /usr/local/spark/conf/spark-env.sh

           

 

  

          

 

 

 

二、Python编程练习:英文文本的词频统计

  1.准备文本文件

                           

          

  2.统计每个单词出现的次数

counts = {}

for word in afterwords:

       counts[word] = counts.get(word,0) + 1

items = list(counts.items())

items.sort(key=lambda x:x[1],reverse=True)

i=1

while i<=len(items):

       word,count = items[i-1]  

       print("{0:<20}{1}".format(word,count))

       i=i+1

  3.结果写文件 

          

 



这篇关于2.安装Spark与Python练习的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程