• 7月16号day8总结


    今天学习过程和小结

     1.列举Linux常用命令

    shutdown now Linux关机

    rebot重启

    mkdir

    mkdir -p递归创建

    vi/touth filename

    rm -r filename删除文件

    rm -rf file删除一个文件夹

    vi编辑一个文件

    i可编辑状态

       esc-->:-->wq保存退出

    q!不保存

    wq!强制保存退出

    ifconfig查看ip

    pingip是否联通

    cat查看文件内容

    grep在文件中搜索某些内容

    useradd增加一个用户

    修改用户权限

    chmod  读写权限777 filename

    more

    cp复制文件

    mv移动文件,重命名

    tar -zxvf解压缩

    ls查看目录

    ls -a查看隐藏文件。

    pwd查看当前文件目录绝对路径

    filewall:防火墙

    service iptables start/stop/status/restart

    修改网络配置文件

    /etc/sysconfig/network-scripts/ifcfg-eth1

    配置环境变量

    /etc/profile

    ~/.bash_profile

    /etc/profile.d/x.sh

    java

    export JAVA_HOEM=JAVA解压缩目录

    export PATH=$JAVA_HOME/bin:$PATH

    配置文件生效

    soure -/.bash_profile

    查看java安装目录

    ecah $JAVA_HOME

    hash函数特点是什么?

    代码论道

    字符串--->固定位数的hash值。

    1.确定性

    2.单向性

    str---hash()--->hash

    3.防篡改

    4.防碰撞

    haprereduce分区默认实现

    hashkey%reduce task

    hash实现:

    SHA系列

    MD系列

    区块链

    3.HDFS如何实现文件的存储

    namenote存放文件原数据

    接收客户端的请求。

    操作原数据(修改文件名,打开文件,关闭文件、DataNode info

    DataNode

    存储文件数据block.blocksize=128MB

    发生心跳信息。将自身所有储存的block信息,健康状况发送给namenode

    4.HDFS副本存放机制?

    block默认3份。

    5.HDFS主要进程,yarn 的主要进程

    namenote

    datanote

    Secondnamenote

    资源导读框架

    7.搭建伪分布式步骤

    1.前置准备

    java

    tar --zxvf

    配置环境变量

    ssh

    1.安装ssh服务器

    openserver -ssh

    2.ssh-keygen -t rsa

    cd -/.ssh

    id_rsa id_rsa.pub

    cp id_rsa.pub authorized

    130MB-->128MB block+2M block

    HDFS

    1.查看hdfs上的文件hdfs dfs -ls /查看文件

    2.hdfs dfs -put 本地目录 /

    3.查看hdfs上的文件内容 hdfs dfs -cat /

    hdfs dfs -text /

    4.hdfs上创建目录,

    hdfs dfs -mkdir /

    5.递归创建目录

    hdfs dfs -mkdir -p /test/a/b

    6.递归查询目录

    hdfs dfs -ls -p /test

    7.hdfs上的文件下载到本地。

    hdfs dfs -get/hello.txt

    8.将本地文件拷贝到hdfs/test/a/b

    hdfs dfs -copyFromLoacl hello.txt /test/a/b/h.text

    9删除hdfs上的目录

    hdfs dfs -rm -R /hello

    10.删除hdfs上的文件

    hdfs dfs -rm /hello.txt

     遇到的问题

    1. 今天重新学习了Linux的基本命令,觉得还有很多常用的命令不熟悉,要继续加强记忆。
    2. 今天学了一个新的开发软件idea,还有很多不懂的地方,要多多练习。

    3.对于用idea操作HDFS也很方便,但要学习如何调用方法。

    学习技能思维导图

  • 相关阅读:
    java线程(1)-线程同步
    Scala:(3)数组
    Codeforces 899F Letters Removing
    拼图游戏的可解性
    Hash
    哈夫曼编码
    莫比乌斯
    FFT
    Ropes
    区间合并
  • 原文地址:https://www.cnblogs.com/kangy123/p/9319769.html
Copyright © 2020-2023  润新知