プログラミング
 Computer >> コンピューター >  >> プログラミング >> プログラミング

ROCKとは?リンクを活用した頑健なクラスタリングアルゴリズムを徹底解説

ROCKとは

ROCK(RObust Clustering using linKs)は、カテゴリ属性を持つデータを対象とした階層型クラスタリングアルゴリズムです。「リンク」と呼ばれる概念、すなわち2つのオブジェクトが共有する共通近傍の数を分析することで、高品質なクラスタを実現します。単純な距離尺度では、カテゴリ情報のクラスタリングにおいて高品質な結果が得られないことが示されています。

従来手法の課題:「局所的」アプローチの限界

多くのクラスタリングアルゴリズムは、クラスタリングの各ステップで類似した点同士を統合していく、いわば「局所的」な手法を採用しています。しかしこの方法には誤りが生じやすいという弱点があります。例えば、本来は別々のクラスタに属する点や外れ値(アウトライヤ)が互いに近い位置に存在する場合、点間の類似性のみに頼ってクラスタリングの判断を行うと、異なる2つのクラスタが誤って統合されてしまう可能性があります。

ROCKのグローバルなアプローチ

ROCKは、個々の点ペアの近傍関係を考慮する、よりグローバルな視点でクラスタリングを行います。2つの類似した点が同じような近傍を持っている場合、その2点は同じクラスタに属している可能性が高いと判断され、統合されるのです。

近傍とリンクの定義

2つの点 pi と pj は、sim(pi, pj) ≥ θ を満たすとき「近傍」であると定義されます。ここで sim は類似度関数、θ はユーザーが指定する閾値です。sim には距離指標を選ぶこともできますし、0から1の範囲に正規化された非メトリック(値が大きいほど点同士が類似していることを表す)を採用することも可能です。

pi と pj 間の「リンク数」は、両者の間の共通近傍の数として表されます。2つの点の間のリンク数が多いほど、それらが同じクラスタに属する可能性が高いといえます。点群全体の関係性の中で近傍データ点を考慮するROCKは、点の類似性のみに着目する標準的なクラスタリング手法よりも優れた性能を発揮します。

マーケットバスケットデータへの適用

カテゴリ属性を含むデータの代表的な例として、マーケットバスケットデータが挙げられます。このデータはトランザクション(取引記録)のデータベースで構成され、各トランザクションはアイテムの集合です。トランザクションはブール(真偽)属性を持つデータとして扱われ、各属性はパンやチーズといった単一のアイテムに対応します。

あるトランザクションのデータにおいて、対応するアイテムが含まれていればその属性は真(true)、含まれていなければ偽(false)となります。同様の方法で扱えるカテゴリ属性を持つデータセットは数多く存在します。2つの「点」すなわちトランザクション Ti と Tj の間の近傍・リンクの概念は、次のジャッカード係数によって表されます。

$$\mathrm{sim(T_{i},T_{j})=\frac{|T_{i} \cap T_{j}|}{|T_{i} \cup T_{j}|}}$$

アルゴリズムの処理の流れ

ROCKはまず、与えられたデータ類似度行列から、類似度閾値と共有近傍の考え方を利用してスパースグラフを生成します。続いて、そのスパースグラフ上で凝集型階層的クラスタリングを実行します。クラスタリングの質は goodness measure(良さの尺度)を用いて評価され、大規模データセットへスケールアップする際にはランダムサンプリングが活用されます。

計算量

ROCKの最悪ケースにおける時間計算量は O(n2 + nmmma + n2log n) です。ここで mm と ma はそれぞれ近傍数の最大値と平均値、n はオブジェクトの総数を表します。

  1. ドキュメントクラスタリング分析とは?基本概念と主要手法を徹底解説

    ドキュメントクラスタリング(文書クラスタリング)とは、教師なし学習の枠組みで大量の文書ファイルを自動的に整理・分類する重要な技術です。文書を単語の出現頻度などからなるタームベクトル(項目ベクトル)として表現すれば、さまざまなクラスタリング手法を適用できます。ただし、文書空間は数百から数千にも及ぶ非常に高い次元数を持つのが特徴です。このような高次元データでは「次元の呪い」と呼ばれる問題が生じるため、まず文書を低次元の部分空間へ射影し、文書空間の意味構造を明確にしてからクラスタリングを行うのが効果的です。低次元化された意味空間上では、従来型のクラスタリングアルゴリズムをそのまま活用できます。ドキュ

  2. マルチリレーショナルクラスタリングとは?CrossClusアルゴリズムの仕組みを解説

    マルチリレーショナルクラスタリング(多関係クラスタリング)とは、複数のリレーションに格納されたデータを活用し、データオブジェクト同士の類似性に基づいてクラスタへ分割する手法です。CrossClusは「ユーザガイダンス付きクロスリレーショナルクラスタリング」を意味します。これは、ユーザからの指示をクラスタリングにどう活用するかを分析するとともに、物理的な結合(ジョイン)を回避するためのタプルID伝播という技術を用いる、マルチリレーショナルクラスタリングのアルゴリズムです。マルチリレーショナルクラスタリングの主な課題マルチリレーショナルクラスタリングにおける最大の課題は、複数のリレーションに多数の