Pythonでtf.keras.layers.Denseを自作する基本実装をわかりやすく解説

TensorFlowはGoogleが提供する機械学習フレームワークです。オープンソースとして公開されており、Pythonと組み合わせてアルゴリズムやディープラーニングアプリケーションなどを実装するために広く利用されています。研究用途から本番環境まで、幅広い場面で活用されています。

Windowsに「tensorflow」パッケージをインストールするには、以下のコマンドを実行します。

pip install tensorflow

テンソル（Tensor）とは、TensorFlowで使われるデータ構造のことです。フロー図におけるエッジ（辺）をつなぐ役割を担っており、このフロー図は「データフローグラフ」と呼ばれます。テンソルの実体は、多次元配列あるいはリストにほかなりません。

KerasはPythonで書かれたディープラーニング用APIです。機械学習の問題を効率的に解決できる生産性の高いインターフェースを持つ高水準APIであり、TensorFlowフレームワークの上で動作します。素早く実験を行えるよう設計されており、機械学習ソリューションの開発やカプセル化に不可欠な抽象化機能と構成要素を提供しています。

KerasはTensorFlowパッケージにあらかじめ含まれており、以下のコードでアクセスできます。

import tensorflow
from tensorflow import keras

Kerasの関数型API（Functional API）を使うと、Sequential APIで作成したモデルよりも柔軟なモデルを構築できます。関数型APIは非線形トポロジーを持つモデルに対応でき、レイヤーの共有や複数の入出力の扱いも可能です。ディープラーニングモデルは通常、複数のレイヤーを含む有向非巡回グラフ（DAG）であり、関数型APIはこのレイヤーグラフの構築を支援します。

以下のコードはGoogle Colaboratory上で実行しています。Google Colab（Colaboratory）を使えば、ブラウザ上でPythonコードを実行でき、設定は一切不要で、GPUにも無料でアクセスできます。ColaboratoryはJupyter Notebookをベースに構築されています。以下がコード例です。

コード例

class CustomDense(layers.Layer):
    def __init__(self, units=32):
        super(CustomDense, self).__init__()
        self.units = units
    def build(self, input_shape):
        self.w = self.add_weight(
            shape=(input_shape[-1], self.units),
            initializer="random_normal",
            trainable=True,
        )
        self.b = self.add_weight(
            shape=(self.units,), initializer="random_normal", trainable=True
        )
    def call(self, inputs):
        return tf.matmul(inputs, self.w) + self.b
inputs = keras.Input((4,))
outputs = CustomDense(10)(inputs)
print("Keras model is being generated")
model = keras.Model(inputs, outputs)

コード引用元：https://www.tensorflow.org/guide/keras/functional

実行結果

Keras model is being generated

解説

• Kerasには多数の組み込みレイヤーが用意されており、その一部として「Conv1D」「Conv2D」「Conv2DTranspose」などがあります。

• 「call」メソッドは、そのレイヤーが実行する計算内容を定義します。ここでは入力と重み行列の積にバイアスを加算する処理が行われています。

• 「build」メソッドは、レイヤーが初めて呼び出されたときに入力形状に基づいて重みを作成します。これにより、入力サイズに依存しない柔軟なレイヤー設計が可能になります。

• 最終的に、入力と出力を指定してKerasモデルが生成されます。