2.7.1 Hadoop連携機能のコンポーネント構成
Hadoop連携機能のコンポーネントは,次の3種類で構成されます。
-
Multiple jobが提供するコンポーネント
-
Hadoopが提供するコンポーネント
-
uGPS - Viewが提供するコンポーネント
各コンポーネントの関連を次の図に,各コンポーネントの構成要素を次の表に示します。
コンポーネント |
機能 |
---|---|
Multiple jobクライアント |
JP1/AJS3 - Agentから起動されるコマンドです。HadoopジョブクライアントおよびHDFSクライアントに次を要求します。
|
Hadoop管理コンソール画面表示 |
実行中のHadoop Job IDの一覧をWebブラウザに表示するJSP(サーブレット)です。表示されたJob ID一覧のうち,1つのJob IDをクリックすると,Hadoop管理コンソール画面が表示されます。このコンポーネントは,JP1/AJS3 - Viewの画面から起動します。 |
コンポーネント |
機能 |
---|---|
Hadoopジョブクライアント |
Multiple jobクライアントから起動されるMapReduceの制御コマンドです。JobTrackerに対してHadoopジョブ実行を依頼します。 |
JobTracker |
Hadoopジョブの実行制御および実行状況管理を行うデーモンプロセスです。HDFSと連携することで,MapタスクおよびReduceタスクを必要数分生成し,ジョブスケジューリングをします。 |
TaskTracker |
MapタスクおよびReduceタスクの実行と実行状況をJobTrackerに通知するデーモンプロセスです。HDFSが管理する分割データを使用し,MapReduce処理をします。 |
HDFSクライアント |
HDFSへのアクセスを実行するクライアントプログラムです。NameNodeから各DataNodeに配置されたファイルやディレクトリ情報を取得し,HDFSへのアクセスを実行します。 |
NameNode |
各DataNodeに配置されたファイルやディレクトリの管理情報を保持し,データへのアクセスを制御します。 |
DataNode |
NameNodeの制御に従って実際にブロックの読み込みや書き込み,複製などのファイル操作をします。 |
Webサーバ |
JSP(サーブレット)を提供して,uGPS専用の画面を作成します。 |
コンポーネント |
機能 |
---|---|
Hadoop連携設定 |
Hadoop連携で必要な次の情報を設定する画面を提供します。
|