• 服务器上修改运行scala


    更新关于IDEA上配置环境可以参看(https://blog.csdn.net/a532672728/article/details/79455024)这篇博客

    ---------------------------------------------------分割线---------------------------------------------

    最近因为项目需要在Xshell上操作(SPARK在IDEA上太难配置了,最终暂时先放弃了),所以整理下服务器上修改运行scala时一些可能用到的的命令。

    一,先进入目标目录:

    很基础,简单一说,相对路径cd usr/local/bin,绝对路径cd /usr/local/bin,返回上一级cd ..  返回根目录cd /

    二,建立一个自己的文件夹方便管理:

    mkdir fengqiaoxue;

    三,操作代码前最好复制备份下:

    cp -r limingdao/DistanceEstimation fengqiaoxue/test1  其中-r是递归参数,即将文件夹下文件也一并复制,删除(rm),移动(mv)时也同理

    四,使用VI/VIM修改代码:

    vi src/main/scala/MakeGraph.scala,进入VI之后按I进入插入状态,可以通过上下左右移动光标,或空格、退格及回车等进行编辑内容,编辑好后按Esc退出插入状态,之后如果保存退出就输:wq或shift+zz快捷键,不保存退出直接输:q

    五,编译scala代码:

    SBT安装参见网站(https://blog.csdn.net/a532672728/article/details/72477591)

    配好后编译首先需要确保包结构符合要求,之后运行/usr/local/sbt/sbt package命令即可,尝试了下应该是没问题了。

    /usr/local/sbt/bin/sbt package

     六,提交运行:

    进入到target中刚生成jar包的文件目录里,spark-submit下就可以了

    spark-submit --class test4 --master spark://master:7077 simple-project_2.11-1.0.jar

    ------------------------------------------------------------------------------------------- 

    补充关于HDFS上文件查看,上传文件等操作

    查看HDFS内容:hdfs dfs -ls /    (最后是hdfs的目录)

    上传HDFS文件:hdfs dfs -put /home/hdfs/files/test.txt   /input        (前面为服务器中文件路径,后面为HDFS中文件路径)

    显示文件中的内容:hdfs dfs -cat /small2.txt

    也可以切换到相应目录使用vim打开查看

  • 相关阅读:
    设计模式
    mysql引擎与物理文件
    org.mybatis.spring.MyBatisSystemException: nested exception is org.apache.ibatis.reflection.ReflectionException: There is no getter for property named 'socialCode' in 'class java.lang.String'
    bad SQL grammar []; nested exception is com.mysql.jdbc.exceptions.jdbc4.MySQLSyntaxErrorException
    jedis异常Broken pipe (Write failed)
    java第三方工具包
    mysql安装(centos7)
    sftp安装(linux)
    Snmp oid对应信息
    RAID
  • 原文地址:https://www.cnblogs.com/xia-hao/p/9829296.html
Copyright © 2020-2023  润新知