プログラミング
 Computer >> コンピューター >  >> プログラミング >> プログラミング

データステージングに求められる3つの重要要件とは?

データステージングの主な要件

データステージング(Data Staging)には、システム構築時に満たすべきいくつかの重要な要件があります。ここでは、その中でも特に重要な「生産性サポート」「ユーザビリティ」「メタデータ駆動」の3つの観点から解説します。

1. 生産性サポート

導入を検討するシステムは、コードライブラリ管理、チェックイン/チェックアウト機能、バージョン管理、本番環境と開発環境の構築といった、基本的な開発環境の機能をサポートしている必要があります。プロジェクトの初期段階や小規模なプロジェクトでは、これらの機能を標準ドキュメント、プロセス記述書、標準ディレクトリ一式によって実現することも可能です。

2. ユーザビリティ(使いやすさ)

データステージングシステムは、業務が本来持つ複雑さを踏まえた上で、できる限り使いやすいものでなければなりません。近年では、この要件はグラフィカルユーザーインターフェース(GUI)の採用という形で実現されています。優れたインターフェースは、学習時間の短縮、開発スピードの向上、そしてある程度の自己文書化を実現します。

また、システムドキュメントもユーザビリティの重要な要素です。開発者が自分の作成したプロセスに関する情報を簡単に記録・取得できる仕組みが求められます。このメタデータは情報カタログに格納され、チームメンバーやユーザーが必要に応じて容易にアクセスできるようにすべきです。

3. メタデータ駆動

データステージングプロセスを支えるサービスにおいて最も重要な特性の一つが、「メタデータ駆動」であることです。これは、テーブル、カラム、ジョブなど、データウェアハウスの作成と保守に必要な情報をCOBOLやSQLのコード内に埋め込むのではなく、情報データベースから参照できるようにすることを意味します。コードに埋め込まれた情報は発見や変更がほぼ不可能になるためです。

現在では、バックエンド処理にハードコーディングされたデータ管理サービスを使用するケースは少なくなっています。今日の多くのウェアハウスでは、デーモン、スクリプト、CRONTABなどを活用して夜間バッチ処理を記録する形であっても、何らかの方法で開発フェーズを自動化するツールが利用されています。こうしたメタデータベースのプロセスへの移行は、少なくとも部分的には、夜間(またはそれ以上の頻度での)ロードへの全体的な流れによって推進されてきました。

メタデータの能動的役割と受動的役割

メタデータはデータウェアハウスにおいて、能動的な役割と受動的な役割の両方を果たすことができます。つまり、ウェアハウスの内容や構成に関するドキュメントとして機能すると同時に、各プロセスに対する命令セットとしても正確に機能するのです。

ドキュメントとしての役割は非常に価値があります。ウェアハウスの中身とその仕組みを人に教育する最も効果的な手段だからです。これは、チームの新メンバーにとっても、ウェアハウスの新規ユーザーにとっても重要なポイントです。

一般に、ドキュメント作成は情報システムプロジェクトにおいて軽視されがちな作業です。しかし、メタデータがプロセス自体の能動的な一部となっていれば、それは必ず作成・記録されることになります。そうしなければ、プロセス自体が機能しなくなるためです。この点こそが、メタデータがデータステージングプロセスを駆動する好例だと言えます。

  1. データウェアハウスのセキュリティ問題とは?多層セキュリティモデルの解説

    データウェアハウスとはデータウェアハウスは、複数のソースからデータを収集・管理し、ビジネスに有益な洞察をもたらすために広く活用されている手法です。経営判断を支援するために特別に設計されており、組織の運用データベースとは独立して管理されるデータベースとして定義されます。データウェアハウスシステムは複数のアプリケーションシステムの統合を可能にし、分析用に統合された履歴情報の堅牢なプラットフォームを提供することで、高度なデータ処理を実現します。また、多次元空間においてデータを汎用化・一元化する役割も担っています。データウェアハウスの構築プロセスには、データクレンジング、データ統合、データ変換が含まれ

  2. データウェアハウス設計とは?基本概念と4つの設計視点を解説

    データウェアハウスとはデータウェアハウスとは、複数の情報源からデータを収集・管理し、ビジネスにおける重要なインサイト(洞察)を支えるための仕組みです。経営層の意思決定を支援することを目的として特別に構築されており、日常業務で使われる運用データベースとは切り離して管理されます。データウェアハウスシステムは複数のアプリケーションシステムの統合を実現し、分析用に統合された過去のレコードを蓄積する堅牢なプラットフォームを提供することで、データ処理を支えます。データウェアハウスは、リモートにある基盤データ上に定義された「マテリアライズドビュー(実体化ビュー)」の集合体と捉えることができます。クエリが発行