TensorFlowとPythonを使ってStack Overflow質問データセットのモデル性能を検証する方法

TensorFlowは、Googleが提供している機械学習フレームワークです。オープンソースとして公開されており、Pythonと組み合わせてアルゴリズムや深層学習アプリケーションなどを実装するために広く利用されています。研究開発から本番環境での運用まで、幅広い場面で活躍するフレームワークです。

「tensorflow」パッケージは、Windows環境であれば以下のコマンドでインストールできます。

pip install tensorflow

テンソルとは

テンソル（Tensor）は、TensorFlowで使われる基本的なデータ構造です。データフローグラフと呼ばれるフロー図の中で、各ノードをつなぐエッジの役割を担います。テンソルの正体は、多次元配列あるいはリストそのものです。

なお、本記事のコードはGoogle Colaboratory上で実行しています。Google Colab（Colaboratory）を利用すれば、ブラウザ上でPythonコードを実行でき、事前の環境構築は一切不要です。さらにGPU（グラフィックス処理装置）へ無料でアクセスできる点も大きな魅力です。ColaboratoryはJupyter Notebookをベースに構築されています。

サンプルコード：新しいデータでモデルをテストする

以下は、学習済みモデルに対して未知の質問文を入力し、予測結果を確認するコード例です。

print("Testing the model with new data")
inputs = [
    "how do I extract keys from a dict into a list?",
    "debug public static void main(string[] args) {...}",
]
print("Predicting the scores ")
predicted_scores = export_model.predict(inputs)
print("Predicting the labels")
predicted_labels = get_string_labels(predicted_scores)
for input, label in zip(inputs, predicted_labels):
    print("Question is: ", input)
    print("The predicted label is : ", label.numpy())

コード出典：https://www.tensorflow.org/tutorials/load_data/text

実行結果

Testing the model with new data
Predicting the scores
Predicting the labels
Question is: how do I extract keys from a dict into a list?
The predicted label is : b'python'
Question is: debug public static void main(string[] args) {...}
The predicted label is : b'java'

コードの解説

• テキストの前処理コードをモデル内部に組み込んでおくことで、本番環境向けへのモデルエクスポートが容易になります。

• この構成にしておくと、デプロイ作業も大幅にシンプルになります。

• 一方、「TextVectorization」レイヤーをモデルの外部で使用した場合は、非同期のCPU処理やバッファリングによるパフォーマンス向上が期待できます。

実行結果を見ると、辞書型からキーを抽出する方法を尋ねる質問は「python」、Javaのmainメソッドに関するデバッグの質問は「java」と、それぞれ正しく分類されていることがわかります。このように、学習済みモデルに新しいテキストデータを渡すだけで、予測スコアとラベルを簡単に取得できるため、モデルの汎化性能を手軽に検証できます。