データウェアハウスにおける主なデータ抽出方法の種類と特徴
データウェアハウスへのデータ抽出手法は、ソースシステム側のルールや、ターゲットとなるデータウェアハウス環境におけるビジネス要件に大きく依存します。さらに、抽出対象となるデータ量の見積もりや、ETLプロセスのどの段階(初回ロードか履歴データの保持か)であるかによっても、論理的・物理的な両面から抽出方法の選択が左右されます。
抽出方法は大きく分けて「論理抽出方法」と「物理抽出方法」の2種類があります。
論理抽出方法
論理抽出には、以下の2つの方式があります。
全件抽出(Full Extraction)
ソースシステムからデータを丸ごと抽出する方式です。ソースシステム上で直接アクセス可能なすべてのデータを対象とするため、前回の正常な抽出以降のデータ変更を追跡しておく必要がありません。
この方式では、ソース側のデータをそのまま利用でき、タイムスタンプのような追加的な論理情報をソース側に用意する必要もありません。全件抽出の例としては、特定テーブルのエクスポートファイルや、ソーステーブル全体を走査するリモートSQLステートメントなどが挙げられます。
増分抽出(Incremental Extraction)
過去のある明確な時点(イベント)以降に変更されたデータのみを抽出する方式です。このイベントは「前回の抽出日時」のような単純なものでも、「会計期間の最終予約日」のようなより複雑なビジネスイベントの場合もあります。
差分(デルタ)を正しく識別するためには、特定の時点イベント以降に変更されたすべてのデータを認識できる仕組みが必要です。その手段としては、最終更新タイムスタンプを記録するカラムをソースデータ自体に持たせる方法や、通常のトランザクションとは別に変更履歴を管理する変更テーブル(チェンジテーブル)を設ける方法があります。一般的に後者の手法を採用する場合は、ソースシステム側に抽出ロジックを組み込むことになります。
物理抽出方法
選択した論理抽出方法と、ソース側の容量や制約条件に基づいて、抽出されたデータは2つの構造で物理的に取り出されます。つまり、データはソースシステムからオンラインで抽出するか、オフラインのメカニズムを使って抽出します。このオフラインメカニズムは既に存在している場合もあれば、抽出ルーチンによって新たに作成される場合もあります。
物理抽出には、以下の方法があります。
オンライン抽出(Online Extraction)
データをソースシステムそのものから直接抽出する方式です。抽出プロセスはソースシステムに直接接続し、ソーステーブルそのものにアクセスするか、あるいはスナップショットログや変更テーブルのように、あらかじめ設定された形式でデータを保持する中間システムに接続します。
オフライン抽出(Offline Extraction)
データをソースシステムから直接抽出するのではなく、元のソースシステムの外部で特別に実行する方式です。対象データは、REDOログ・アーカイブログ・トランスポータブル表領域といった既存の構造を持っている場合と、抽出ルーチンによって生成された場合があります。
-
プライバシー保護データマイニングとは?主な手法と仕組みを徹底解説
プライバシー保護データマイニングとは プライバシー保護データマイニング(Privacy-Preserving Data Mining)は、データマイニングにおけるプライバシーセキュリティの課題に対応するために生まれた研究分野です。「プライバシー強化データマイニング」や「プライバシー配慮型データマイニング」とも呼ばれています。 この手法の目的は、基礎となる機密性の高いデータ値を開示することなく、正確なデータマイニング結果を得ることにあります。 プライバシーとデータ有用性のトレードオフ 多くのプライバシー保護データマイニングのアプローチでは、データに対して何らかの変換を施すことでプライバシー保護
-
データ整合性の種類とは?5つのタイプをわかりやすく解説
データ整合性(データベース整合性)とはデータベースにおける整合性とは、保存された情報の有効性と一貫性を指します。整合性は一般に「制約」という形で定義され、制約とはデータベースが違反してはならない一貫性ルールのことです。制約は個々の属性(カラム)に対して適用されることもあれば、テーブル間のリレーションシップに対して適用されることもあります。整合性制約があることで、権限を持つユーザーがデータベースに対して行う変更(更新・削除・挿入)によっても、データの一貫性が失われることはありません。つまり、整合性制約はデータベースを偶発的な破損から守る重要な役割を果たしているのです。データ整合性の主な種類データ