導航:首頁 > 程序命令 > hadoop命令行

hadoop命令行

發布時間:2025-02-27 11:50:12

1. hadoop如何執行命令

hadoop 執行命令有兩種方法:1. 使用 hdfs 命令行(如 hdfs dfs ls)執行文件系統操作;2. 使用 hadoop 流處理框架(maprece)執行並行計算,包括編寫 maprece 作業並使用 hadoop jar 命令執行。
Hadoop 如何執行命令
在 Hadoop 集群中執行命令有兩種主要方法:
1. Hadoop 文件系統 (HDFS) 命令行
Hadoop 提供了一個命令行界面 (CLI),稱為 HDFS 命令行,用於與 HDFS 進行交互並執行命令。要使用 HDFS 命令行,請打開終端或命令提示符,然後輸入以下命令:
hdfs dfs
常見的 HDFS 命令包括:
ls:列出目錄中的文件和目錄mkdir:創建目錄put:將文件從本地系統復制到 HDFSget:將文件從 HDFS 復制到本地系統rm:刪除文件或目錄
2. Hadoop 流處理框架(MapRece)
Hadoop 流處理框架 MapRece 提供了一個 API,用於在分布式環境中執行並行計算。MapRece 允許您將復雜任務分解為較小的子任務,這些子任務可以並行執行。要使用 MapRece 執行命令,請編寫一個 MapRece 作業,然後使用 Hadoop Streaming 命令執行作業。
hadoop jar /path/to/streaming.jar \ -mapper mapper.py \ -recer recer.py \ -input /input/path \ -output /output/path
其中:
mapper.py:定義映射階段的 Python 腳本recer.py:定義歸約階段的 Python 腳本/input/path:輸入數據的路徑/output/path:輸出數據的路徑

2. hadoop常用shell命令怎麼用

一、常用的hadoop命令
1、hadoop的fs命令
#查看hadoop所有的fs命令

1

hadoop fs

#上傳文件(put與FromLocal都是上傳命令)

1
2

hadoop fs -put jdk-7u55-linux-i586.tar.gz hdfs://hucc01:9000/jdk
hadoop fs -FromLocal jdk-7u55-linux-i586.tar.gz hdfs://hucc01:9000/jdk

#下載命令(get與ToLocal都是下載命令)

1
2

hadoop fs -get hdfs://hucc01:9000/jdk jdk1.7
hadoop fs -ToLocal hdfs://hucc01:9000/jdk jdk1.7

#將本地一個或者多個文件追加到hdfs文件中(appendToFile)

1

hadoop fs -appendToFile install.log /words

#查詢hdfs的所有文件(ls)

1

hadoop fs -ls /

#幫助命令(help)

1

hadoop fs -help fs

#查看hdfs文件的內容(cat和text)

1
2

hadoop fs -cat /words
hadoop fs -text /words

#刪除hdfs文件(rm)

1

hadoop fs -rm -r /words

#統計hdfs文件和文件夾的數量(count)

1

hadoop fs -count -r /

#合並hdfs某個文件夾的文件,並且下載到本地(getmerge)

1

hadoop fs -getmerge / merge

#將本地文件剪切到hdfs,相當於對本地文件上傳後再刪除(moveFormLocal)

1

hadoop fs -moveFromLocal words /

#查看當前文件系統的使用狀態(df)

1

hadoop fs -df

二、常用的hdfs命令(這個用的比較多)
用法跟hadoop命令一樣,推薦2.0之後使用hdfs命令

1

hdfs dfs

3. hadoop中常用的命令

1、查看指定目錄下內容
hadoop dfs –ls [文件目錄]
eg: hadoop dfs –ls /user/wangkai.pt
2、打開某個已存在文件
hadoop dfs –cat [file_path]
eg:hadoop dfs -cat /user/wangkai.pt/data.txt
3、將本地文件存儲至hadoop
hadoop fs –put [本地地址] [hadoop目錄]
hadoop fs –put /home/t/file.txt /user/t
(file.txt是文件名)
4、將本地文件夾存儲至hadoop
hadoop fs –put [本地目錄] [hadoop目錄]
hadoop fs –put /home/t/dir_name /user/t
(dir_name是文件夾名)
5、將hadoop上某個文件down至本地已有目錄下
hadoop fs -get [文件目錄] [本地目錄]
hadoop fs –get /user/t/ok.txt /home/t
6、刪除hadoop上指定文件
hadoop fs –rm [文件地址]
hadoop fs –rm /user/t/ok.txt
7、刪除hadoop上指定文件夾(包含子目錄等)
hadoop fs –rm [目錄地址]
hadoop fs –rmr /user/t
8、在hadoop指定目錄內創建新目錄
hadoop fs –mkdir /user/t
9、在hadoop指定目錄下新建一個空文件
使用touchz命令:
hadoop fs -touchz /user/new.txt
10、將hadoop上某個文件重命名
使用mv命令:
hadoop fs –mv /user/test.txt /user/ok.txt (將test.txt重命名為ok.txt)
11、將hadoop指定目錄下所有內容保存為一個文件,同時down至本地
hadoop dfs –getmerge /user /home/t
12、將正在運行的hadoop作業kill掉
hadoop job –kill [job-id]

閱讀全文

與hadoop命令行相關的資料

熱點內容
人機界面控制plc編程 瀏覽:632
多聲道源碼編譯 瀏覽:525
51單片機的功耗 瀏覽:371
怎麼查題目知識點app 瀏覽:642
mc的伺服器怎麼被炸的 瀏覽:460
什麼記賬APP有密碼不要會員 瀏覽:839
單片機加密技術 瀏覽:937
編譯器怎麼輸入程序 瀏覽:839
壓縮圖片到20k 瀏覽:197
java文件路徑文件名 瀏覽:609
初一app有什麼活動 瀏覽:939
linux找不到u盤 瀏覽:256
工作單位怎麼填寫程序員 瀏覽:156
微擎用什麼伺服器 瀏覽:18
程序員的手機表白方式 瀏覽:968
程序員的平安 瀏覽:918
安卓手機怎麼進入不同界面 瀏覽:614
拳皇android 瀏覽:781
公網如何訪問區域網伺服器地址 瀏覽:881
怎麼看app最後使用的時間 瀏覽:589