一、安装Spark
1.检查基础环境hadoop,jdk
2.下载spark
（已完成，略过）
（已完成，略过）
4.配置文件
（已完成，略过）
5.环境变量
6.试运行Python代码
1.准备文本文件
2.读文件
path='/home/hadoop/lh.txt'
with open(path) as f:
text=f.read()
3.预处理：大小写，标点符号，停用词，分词
words = text.lower().split()
for c in '!"#$%^&*()_+-=@[]{}|\?/<>,.:;~·`、“”‘’':
text = text.replace(c, " ")
t={}
4.统计每个单词出现的次数，词频大小排序
for word in words:
t[word]=t.get(word,0)+1
tlist=list(t.items())
tlist.sort(key=lambda x:x[1],reverse=True)
print(tlist)
5.结果写文件
text = open("lh.txt", "w", encoding='UTF-8')
text.write(str(tlist))
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
