spark提交任务到集群的方法
这篇文章主要介绍“spark提交任务到集群的方法”,在日常操作中,相信很多人在spark提交任务到集群的方法问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”spark提交任务到集群的方法”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!
成都网站制作、成都做网站的开发,更需要了解用户,从用户角度来建设网站,获得较好的用户体验。创新互联建站多年互联网经验,见的多,沟通容易、能帮助客户提出的运营建议。作为成都一家网络公司,打造的就是网站建设产品直销的概念。选择创新互联建站,不只是建站,我们把建站作为产品,不断的更新、完善,让每位来访用户感受到浩方产品的价值服务。
#Run on a Spark standalone cluster in client deploy mode(运行集群模式,客户端发布模式)
spark-submit \
--class org.apache.spark.examples.SparkPi \
--master spark://207.184.161.138:7077 \
--executor-memory 20G \
--total-executor-cores 100 \
/path/to/examples.jar \
1000
如采用:Run on a Spark standalone cluster in cluster deploy mode with supervise(发布模式为集群,则jar包,每个worker都要有此jar 包)
到此,关于“spark提交任务到集群的方法”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注创新互联网站,小编会继续努力为大家带来更多实用的文章!
本文标题:spark提交任务到集群的方法
标题来源:http://scjbc.cn/article/jcdgdh.html