Hitachi

uCosminexus Grid Processing Server 使用の手引


2.7.1 Hadoop連携機能のコンポーネント構成

Hadoop連携機能のコンポーネントは,次の3種類で構成されます。

各コンポーネントの関連を次の図に,各コンポーネントの構成要素を次の表に示します。

図2‒58 Hadoop連携機能を構成するコンポーネントの関連

[図データ]

表2‒51 Multiple jobが提供するコンポーネント

コンポーネント

機能

Multiple jobクライアント

JP1/AJS3 - Agentから起動されるコマンドです。HadoopジョブクライアントおよびHDFSクライアントに次を要求します。

Hadoopジョブクライアント
  • Hadoopジョブの起動

  • Hadoopジョブの強制終了

HDFSクライアント
  • ジョブ情報ファイルの生成

  • ジョブ情報ファイルの削除

  • ディレクトリが存在するかどうかの確認

Hadoop管理コンソール画面表示

実行中のHadoop Job IDの一覧をWebブラウザに表示するJSP(サーブレット)です。表示されたJob ID一覧のうち,1つのJob IDをクリックすると,Hadoop管理コンソール画面が表示されます。このコンポーネントは,JP1/AJS3 - Viewの画面から起動します。

表2‒52 Hadoopが提供するコンポーネント

コンポーネント

機能

Hadoopジョブクライアント

Multiple jobクライアントから起動されるMapReduceの制御コマンドです。JobTrackerに対してHadoopジョブ実行を依頼します。

JobTracker

Hadoopジョブの実行制御および実行状況管理を行うデーモンプロセスです。HDFSと連携することで,MapタスクおよびReduceタスクを必要数分生成し,ジョブスケジューリングをします。

TaskTracker

MapタスクおよびReduceタスクの実行と実行状況をJobTrackerに通知するデーモンプロセスです。HDFSが管理する分割データを使用し,MapReduce処理をします。

HDFSクライアント

HDFSへのアクセスを実行するクライアントプログラムです。NameNodeから各DataNodeに配置されたファイルやディレクトリ情報を取得し,HDFSへのアクセスを実行します。

NameNode

各DataNodeに配置されたファイルやディレクトリの管理情報を保持し,データへのアクセスを制御します。

DataNode

NameNodeの制御に従って実際にブロックの読み込みや書き込み,複製などのファイル操作をします。

Webサーバ

JSP(サーブレット)を提供して,uGPS専用の画面を作成します。

表2‒53 uGPS - Viewが提供するコンポーネント

コンポーネント

機能

Hadoop連携設定

Hadoop連携で必要な次の情報を設定する画面を提供します。

  • Hadoopマシンとの通信設定(Hadoop管理コンソール画面表示を行う場合)

  • カスタムジョブ(Hadoopジョブ)を実行するための定義登録