手把手教你Windows运维下搭建spark
诗诗 2018-03-19 来源 :网络 阅读 1028 评论 0

摘要:本篇Windows运维将教你搭建spark,看完这篇文章会让你有更加清晰的操作。

本篇Windows运维将教你搭建spark,看完这篇文章会让你有更加清晰的操作。


安装环境

JDK 1.7

scala 2.11.7

hadoop-winutils 2.6.0

spark 1.3.1


安装步骤

1.安装JDK、scala解释器、hadoop-winutils、spark

2.配置JAVA_HOME、SCALA_HOME、HADOOP_HOME环境变量

3.运行spark目录下/bin/spark-shell.cmd


测试代码

用这里的wordCount代码,在spark-shell上运行

$ spark-shell

scala> val file = sc.textFile("<input file>")

scala> val counts = file.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)

scala> counts.saveAsTextFile("<output file>")

可以在<output file>/part-00000(可能不只一个输出结果文件)中看到结果


希望这篇文章可以帮助到你。总之,同学们,你想要的职坐标IT频道都能找到!


本文由 @诗诗 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved

208小时内训课程