Hadoopは巨大なNFSサーバとして使用できるのか

こんにちは。

今回は「優秀なファイルシステムであるHDFSですが、現行のNFSサーバを置き換えることができるだろうか」という事について考えてみたいと思います。

 

まず、HDFSのメリットについて再確認してみます。

Hadoop – HDFSのメリット

1. 安価に大容量のファイルシステムが構築できる。
2. ストレージサイズの拡張が簡単に行える。
3. 分散配置されたブロックごとに通信が発生するため、ファイルの取得・格納スピードが速い。
4. ファイルのレプリケーションが自動で行われるため、マシントラブルによるデータ喪失が起こりにくい。
5. データ容量と比例して計算能力を獲得できる。

 

特に注目すべきなのは 「5. データ容量と比例して計算能力を獲得できる」という事です。

今までのNFSサーバは、ファイルを格納するためだけのサーバというイメージが強く、またそのように使用しているユーザーが大半だと思います。

Hadoopでは、容量拡大のためにスレーブマシンを増やせば増やすほど処理性能も上がりますので、知らず知らずのうちにスーパーコンピュータ並の計算能力を得ることができているかもしれません。

 

良い事ばかりのように見えるHDFSですが、NFSのようにマウントして使用するには、別のシステムを一つ経由する必要があります。

そのため速度的に実用に耐えうるのかどうか、という問題点が浮上してきます。

 

そこで、HadoopのクラスタとNFSサーバを作成し、実際マウントして使用した時にどの程度速度に違いが出るのかを試してみたいと思います。

 

機材構成

Hadoopクラスタ

◇ マスターマシン　×　1台
OS – CentOS 6.6
CPU –  Intel(R) Core(TM)2 Duo CPU     E7300  @ 2.66GHz
メモリ – 2GB
HD – 70GB

◇スレーブマシン　×　8台
OS – CentOS 6.6
CPU – Intel(R) Core(TM)2 Duo CPU     E6550  @ 2.33GHz
メモリ – 2GB
HD – 200GB

◇スイッチ
ギガビット16ポート アンマネージスイッチ（デスクトップ） GS116

 

 NFSサーバ

OS – CentOS 6.6
CPU – Intel(R) Core(TM)2 Duo CPU     E4500  @ 2.20GHz
メモリ – 1GB
HD – 70GB

 

HDFSをマウント

HDFSをマウントして使用するには、別のシステムを経由する必要があると前述しましたが、今回は「NFS V3 Gateway」を使用して検証します。

CDH5に格納されていますので、簡単にインストールが可能です。

設定方法について、詳しくは こちら をご覧ください。(Clouderaの説明ページが開きます)

 

以下のコマンドで　/hdfs　にマウントしておきます。

sudo mount -t nfs -o vers=3,proto=tcp,nolock master00.fward.net:/ /hdfs

 

NFSをマウント

NFSのマウント方法は今さら記載することもないと思いますので、割愛します。

 

以下のコマンドで　/nfs　にマウントしておきます。

sudo mount -t nfs nfs.fward.net:/home /nfs

 

速度検証

検証に使用したファイルサイズは10MB、100MB、1GBの三種類。

以下のコマンドを使用して、NFSとHDFSの速度比較を行います

書き込み :

time dd if=/dev/zero of=/nfs/writefile10 bs=1024k count=10

読み込み :

time dd if=/nfs/writefile10 of=/dev/null bs=1024k

 

検証結果

10MB～1GBまでを三回ずつ読み書きした平均を出しました。