PythonでKerasを使ってアンサンブルモデルを実装する方法

TensorFlowは、Googleが提供している機械学習フレームワークです。オープンソースとして公開されており、Pythonと組み合わせて使用することで、各種アルゴリズムやディープラーニングアプリケーションの実装が可能になります。研究用途から本番環境まで、幅広い場面で活用されています。

Windows環境に「tensorflow」パッケージをインストールするには、以下のコマンドを実行します。

pip install tensorflow

Kerasは、ONEIROS（Open-ended Neuro-Electronic Intelligent Robot Operating System）というプロジェクトの研究の一環として開発されました。Pythonで書かれたディープラーニング向けのAPIであり、機械学習の問題を効率的に解決するための高水準インターフェースを提供します。TensorFlowフレームワークの上で動作し、素早く実験を行えるように設計されている点が特徴です。機械学習ソリューションの開発に必要な抽象化機能や構成要素を備えています。

KerasはTensorFlowパッケージにあらかじめ含まれているため、以下のコードですぐに利用できます。

import tensorflow
from tensorflow import keras

KerasのFunctional API（関数型API）を使うと、Sequential APIで作成するモデルよりも柔軟性の高いモデルを構築できます。非線形トポロジーを持つモデルや、レイヤーの共有、複数の入力・出力を持つモデルにも対応可能です。ディープラーニングのモデルは一般的に、複数のレイヤーからなる有向非巡回グラフ（DAG）として表現されます。Functional APIは、このレイヤーのグラフを構築するのに役立ちます。

以下のコードはGoogle Colaboratory上で実行しています。Google Colab（Colaboratory）を利用すると、ブラウザ上でPythonコードを実行でき、事前の設定は不要で、GPU（グラフィックス処理装置）にも無料でアクセスできます。ColaboratoryはJupyter Notebookをベースに構築されています。それでは、アンサンブルモデルを実装するコードを見てみましょう。

サンプルコード

def get_model():
    inputs = keras.Input(shape=(128,))
    outputs = layers.Dense(1)(inputs)
    return keras.Model(inputs, outputs)
print("Calling the 'get_model' method ")
model_1 = get_model()
model_2 = get_model()
model_3 = get_model()

my_inputs = keras.Input(shape=(128,))
y1 = model_1(my_inputs)
y2 = model_2(my_inputs)
y3 = model_3(my_inputs)
print("The average of the layers in the model")
my_outputs = layers.average([y1, y2, y3])
print("Ensemble model is being created")
ensemble_model = keras.Model(inputs=my_inputs, outputs=my_outputs)

コード出典：https://www.tensorflow.org/guide/keras/functional

実行結果

Calling the 'get_model' method
The average of the layers in the model
Ensemble model is being created

解説

• Kerasではモデルのネスト（入れ子構造）が可能です。つまり、モデルの中にサブモデルを含めることができます。

• このサブモデルが、アンサンブル学習に活用されます。

• アンサンブルとは、複数のモデルを1つのモデルにまとめ、それぞれのモデルが出力した予測結果の平均を最終的な予測値とする手法です。これにより、単一モデルよりも汎化性能の高い予測が期待できます。