深層学習用ライブラリKerasを使って深層学習モデルを作成する¶
- 前回同様、lfw_peopleデータの分類学習を行います
- Kerasを使います
In [1]:
# sklearnから
# データセットfetch_lfw_people
# 学習データと検証用データ分割用モジュール
# 標準化/正規化モジュール
from sklearn.datasets import fetch_lfw_people
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler, MinMaxScaler
# Kerasから
# モデル作成用モジュール
from keras import models, optimizers,layers
from keras.utils import np_utils
from matplotlib import pyplot as plt
plt.tight_layout() # グラフを並べた場合にラベルが重ならないように
import numpy as np
np.set_printoptions(precision=3) # 表示桁数を少数点以下2桁にします
分類結果の混同マトリックスを表示するための関数¶
In [ ]:
def _report_cfmatrix (test, testPred, names, fname=None) :
# 混同行列用ライブラリ
from sklearn.metrics import classification_report,confusion_matrix,ConfusionMatrixDisplay
from matplotlib import pyplot as plt
print('\n [classification_report]\n', classification_report(test, testPred, target_names=names))
print('\n [confusion_matrix]\n', confusion_matrix(test, testPred))
ConfusionMatrixDisplay(confusion_matrix=confusion_matrix(test, testPred), display_labels=lfw.target_names).plot(cmap='YlGn', values_format='d', xticks_rotation=90)
if( fname != None) :
plt.savefig('.\cmat_cnn.jpg')
データの準備¶
データをロード¶
In [3]:
lfw = fetch_lfw_people(data_home='./scikit_learn_data/', min_faces_per_person=100, resize=0.5)
学習用データと検証用データの分離¶
In [4]:
X = lfw.data
y = lfw.target
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=0)
v,h = lfw.images.shape[1:3] # 画像の垂直・水平サイズを保持する
n_train = X_train.shape[0] # 学習データ数を保持する
n_test = X_test.shape[0] # 検証データ数を保持する
print('Image Size [{0}, {1}]'.format(v,h))
print('num of train data [{0}]'.format(n_train))
print('num of test data [{0}]'.format(n_test))
標準化と正規化¶
In [ ]:
sc = StandardScaler()
sc.fit(X_train)
X_train_sc = sc.transform(X_train)
X_test_sc = sc.transform(X_test)
ms = MinMaxScaler(feature_range=(0,1))
ms.fit(X_train_sc)
X_train_sc = ms.transform(X_train_sc)
X_test_sc = ms.transform(X_test_sc)
X_train_sc = X_train_sc.reshape([n_train, v, h, 1])
X_test_sc = X_test_sc.reshape([n_test, v, h, 1])
正解データをカテゴリ変数化する（One-Hot Encoding）¶
In [6]:
y_train_cat = np_utils.to_categorical(y_train,5)
y_test_cat = np_utils.to_categorical(y_test,5)
print(y_train_cat.shape)
print(y_train_cat)
モデルの定義¶
- KerasのチュートリアルのモデルVGG-likeなconvnetモデルをそのまま使ってみる
In [ ]:
model = models.Sequential()
# 入力: サイズがvxhで1チャンネルをもつ画像 -> (v, h, 1) のテンソル
# それぞれのlayerで3x3の畳み込み処理を適用している
model.add(layers.Conv2D(32, (3, 3), activation='relu', input_shape=(v, h, 1)))
model.add(layers.Conv2D(32, (3, 3), activation='relu'))
model.add(layers.MaxPooling2D(pool_size=(2, 2)))
model.add(layers.Dropout(0.25))
model.add(layers.Conv2D(64, (3, 3), activation='relu'))
model.add(layers.Conv2D(64, (3, 3), activation='relu'))
model.add(layers.MaxPooling2D(pool_size=(2, 2)))
model.add(layers.Dropout(0.25))
model.add(layers.Flatten())
model.add(layers.Dense(256, activation='relu'))
model.add(layers.Dropout(0.5))
model.add(layers.Dense(5, activation='softmax'))
In [8]:
model.summary()
モデルのコンパイル¶
- 最適化関数 Adam
- 損失関数 categorical_crossentropy
- 評価指標 accuracy
In [ ]:
lr = 0.001
beta_1 = 0.9
beta_2 = 0.999
decay = 0.0
optimizers.Adam(lr=lr, beta_1=beta_1, beta_2=beta_2, epsilon=None, decay=decay, amsgrad=False)
model.compile(optimizer = 'Adam',
loss = 'categorical_crossentropy',
metrics = ['acc'])
学習させる¶
In [ ]:
n_epoc = 200
hist = model.fit(X_train_sc, y_train_cat, epochs=n_epoc, validation_data=(X_test_sc, y_test_cat), verbose=0)
検証用データに対する予測結果をカテゴリ変数で確認¶
In [11]:
y_test_pred_cls = model.predict_classes(X_test_sc)
y_test_pred_cls
Out[11]:
In [12]:
y_test_pred = model.predict(X_test_sc)
y_test_pred
Out[12]:
混同マトリックスで指標を確認¶
In [13]:
_report_cfmatrix (y_test, y_test_pred_cls, lfw.target_names, fname='.\cmat_cnn.jpg')
epocに対する正解率の推移を表示¶
In [14]:
hist.history.keys() # ヒストリデータ
Out[14]:
In [15]:
gr1 = plt.subplot(1, 2, 1)
gr1.plot(range(1, n_epoc+1), hist.history['acc'], label="training")
gr1.plot(range(1, n_epoc+1), hist.history['val_acc'], label="validation")
gr1.set_xlabel('Epochs')
gr1.set_ylabel('Accuracy')
gr1.legend()
gr2 = plt.subplot(1, 2, 2)
gr2.plot(range(1, n_epoc+1), hist.history['loss'], label="training")
gr2.plot(range(1, n_epoc+1), hist.history['val_loss'], label="validation")
gr2.set_xlabel('Epochs')
gr2.set_ylabel('loss')
gr2.legend()
plt.show()
