iT邦幫忙

2018 iT 邦幫忙鐵人賽
DAY 5
3

在安裝完了Hadoop,並且正常啟動service後,接著我們要來進行HDFS使用教學。與一般的檔案系統一樣,HDFS可以新增複製刪除、與查看檔案,使用的指令也與Linux非常類似,接下來將會對這些指令進行介紹。

Hadoop平台剛建置好的時候,HDFS除了系統log或是暫存檔案外,是沒有任何使用者的資料。接下來會經過一連串的操作來介紹HDFS指令。

使用情境

複製檔案至HDFS

首先,先產生一個內文寫著Hello Wrold的檔案test.txt存儲在本機內:

echo "Hello Wrold" >> test.txt

接著將test.txt存放到HDFS根目錄/

hadoop fs -put test.txt /

也可以使用copyFromLocal儲存,差別在於檔案來源只限定在local host:

hadoop fs -copyFromLocal test.txt /

查詢檔案清單

透過下列指令確認test.txt是成功儲存到HDFS上:

hadoop fs -ls /

#回傳結果
-rw-r--r--   3 root supergroup         12 2017-12-07 07:38 /test.txt
drwxr-xr-x   - root supergroup          0 2017-12-6 07:57 /tmp
drwxr-xr-x   - root supergroup          0 2017-12-6 07:57 /user

顯示檔案內容

查詢HDFS上的test.txt內容是否為Hello Wrold:

hadoop fs -cat /test.txt

#回傳結果
Hello Wrold

建立資料夾

在HDFS根目錄建立testFolder資料夾:

hadoop fs -mkdir /testFolder

#查詢結果指令
hadoop fs -ls /
#結果
-rw-r--r--   3 root supergroup         12 2017-12-07 07:38 /test.txt
drwxr-xr-x   - root supergroup          0 2017-12-07 09:10 /testFolder
drwxr-xr-x   - root supergroup          0 2017-12-6 07:57  /tmp
drwxr-xr-x   - root supergroup          0 2017-12-6 07:57  /user

移動檔案/資料夾與重新命名

將test.txt檔案由根目錄移動至testFolder內:

hadoop fs -mv /test.txt /testFolder

#查詢指令
hadoop fs -ls /testFolder
#結果
-rw-r--r--   3 root supergroup         12 2017-12-07 07:38 /testFolder/test.txt

重新命名檔案/資料夾一樣是使用mv

hadoop fs -mv /testFolder/test.txt /testFolder/test_rename.txt

#查詢指令
hadoop fs -ls /testFolder
#結果
-rw-r--r--   3 root supergroup         12 2017-12-07 07:38 /testFolder/test_rename.txt

複製檔案/資料夾

在HDFS上複製/testFolder/test_rename.txt至根目錄/

hadoop fs -cp /testFolder/test_rename.txt /

#查詢指令
hadoop fs -ls /
#結果
drwxr-xr-x   - root supergroup          0 2017-12-07 09:51 /testFolder
-rw-r--r--   3 root supergroup         12 2017-12-07 10:16 /test_rename.txt
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /tmp
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /user

複製檔案/資料夾回本機電腦

test_rename.txt複製回本機電腦路徑/tmp

hadoop fs -get /testFolder/test_rename.txt /tmp

#確認指令
ls -al /tmp
#結果
-rw-r--r--. 1 root root 12 Dec  7 09:58 test_rename.txt

也可以使用copyToLocal儲存,差別在於複製目的地只限定在local host:

hadoop fs -copyToLocal /testFolder/test_rename.txt /tmp

刪除HDFS上的檔案/資料夾

刪除/testFolder資料夾:

hadoop fs -rmr /testFolder

#確認指令
hadoop fs -ls /
#結果
-rw-r--r--   3 root supergroup         12 2017-12-07 10:16 /test_rename.txt
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /tmp
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /user

刪除/test_rename.txt檔案:

hadoop fs -rm /test_rename.txt

#確認指令
hadoop fs -ls /
#結果
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /tmp
drwxr-xr-x   - root supergroup          0 2017-12-6  07:57 /user

使用rmrmr指令移除檔案或是資料夾時,會先將檔案搬移到垃圾桶資料夾(trash directory)內,並紀錄該檔案的刪除時間,等經過某段時間後才會真正從HDFS上移除檔案。如果想手動清空垃圾桶,可使用下列指令:

hadoop fs -expunge

若想直接刪除,而不經過垃圾桶的保存機制,可以再刪除時增加skipTrash參數:

hadoop fs -rm -skipTrash /test_rename.txt

最後

經過一連串的介紹,相信大家一定對HDFS的操作有基本的了解,如果想看這些指令的完整介紹,可以等待下一篇文章!


上一篇
Day 4 - Hadoop Ecosystem 之 Hadoop 安裝篇
下一篇
Day 6-Hadoop指令介紹-HDFS篇
系列文
Hadoop ecosystem 工具簡介, 安裝教學與各種情境使用30

1 則留言

0
He.Chun
iT邦新手 5 級 ‧ 2019-11-07 16:57:31

不好意思! 請問一下
因為想利用 偽分佈模式 來跑以下指令

hadoop fs -put test.txt /

但一直遇到
https://ithelp.ithome.com.tw/upload/images/20191107/20106955nwgZr2t8BT.png

請問我還需要在 localhost:9000 再去開什麼服務呢

stana iT邦新手 5 級‧ 2019-11-11 14:38:15 檢舉

請確定 hadoop service是否有正確啟動並運作。

He.Chun iT邦新手 5 級‧ 2019-11-11 15:51:17 檢舉

利用 jps 我發現 NameNode 沒起來,但 DataNode 有起來
之後把

Day 4 - Hadoop Ecosystem 之 Hadoop 安裝篇
https://ithelp.ithome.com.tw/upload/images/20191111/20106955yP93QOgOOt.png

localhost 改成 0.0.0.0:9000
NameNodeDataNode 都有起來
/images/emoticon/emoticon13.gif

我要留言

立即登入留言