微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Mac Spark 安装

spark包下载地址:https://spark.apache.org/downloads.html

在这里插入图片描述

选择适合的spark 版本进行下载
再安装spark之前要保证你的电脑上已经安装了JDK,Hadoop , Scala ,Python
将下载好的安装包尽心解压,得到如下的文件

在这里插入图片描述

配置conf文件及环境变量
conf:
复制conf目录下的spark-env.sh.template ,并将复制的文件重命名为 spark-env.sh

在这里插入图片描述

修改spark-env.sh 的内容为:
export SCALA_HOME= /Users/admin/Library/Application Support/JetBrains/IntelliJIdea2020.1/plugins/Scala/repo/org.jetbrains/sbt-structure-extractor/scala_2.12 #Scala的目录

export SPARK_MASTER_IP=localhost

export SPARK_WORKER_MEMORY=4g

配置环境变量
sudo vim /etc/profile
增加如下内容

export SPARK_HOME=/Users/admin/Documents/develp/opt/spark2.4.8/spark-2.4.8-bin-hadoop2.7 # spark的安装目录
export PATH=$PATH:$SPARK_HOME/bin

在这里插入图片描述

使环境变量生效
source /etc/profile

在任何目录下执行spark-shell ,出现如下情况即安装成功

在这里插入图片描述

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐