Keras をよくわかっていないのでおかしな点があればご指摘いただきたいのですが、1つ前までの記事で紹介していた DAGMM（メモ1／メモ2／メモ3／メモ4）を Keras で実装しようとすると以下のような手順でできるんでしょうか。よくわかりません。
- 不整脈データ（274次元）を真ん中の特徴量が2次元の深層自己符号化器にかける。
- 深層自己符号化器が終わったところで、最初の入力と特徴量を回収してきて、損失に再構築誤差を流し込むと同時に、特徴量に再構築エラー（2次元）を concat してこれを出力する（カスタムレイヤー0）。
- さっきの出力を何層かの全結合層にかけて各分布への割り当て確率にする（不整脈データは混合数2）。
- ここで4次元の特徴量を回収してきて、尤度と正則化項を損失に流し込む（カスタムレイヤー1）。
ガワだけ実装すると以下のようなイメージですが、中身を実装してコンパイルできるのか知りませんし、訓練して勾配計算が意図通りに動くのかも知りません。
x_org = Input(shape=[274])
h_0 = Dense(10, activation='tanh')(x_org)
z_c = Dense(2)(h_0)
h_1 = Dense(10, activation='tanh')(z_c)
x_dash = Dense(274)(h_1)
z = MyLayer0()([x_org, z_c, x_dash])
h_2 = Dense(10, activation='tanh')(z)
h_3 = Dropout(0.5)(h_2)
gamma = Dense(2, activation='softmax')(h_3)
gamma_ = MyLayer1()([z, gamma])
DAGMM = Model(x_org, gamma_)
DAGMM.compile(optimizer=optimizers.Adam(lr=0.0001), loss=None)
DAGMM.summary()
_______________________________________________________________________________________
Layer (type) Output Shape Param # Connected to
=======================================================================================
input_1 (InputLayer) (None, 274) 0
_______________________________________________________________________________________
dense_1 (Dense) (None, 10) 2750 input_1[0][0]
_______________________________________________________________________________________
dense_2 (Dense) (None, 2) 22 dense_1[0][0]
_______________________________________________________________________________________
dense_3 (Dense) (None, 10) 30 dense_2[0][0]
_______________________________________________________________________________________
dense_4 (Dense) (None, 274) 3014 dense_3[0][0]
_______________________________________________________________________________________
my_layer0_1 (MyLayer0) (None, 4) 0 input_1[0][0]
dense_2[0][0]
dense_4[0][0]
_______________________________________________________________________________________
dense_5 (Dense) (None, 10) 50 my_layer0_1[0][0]
_______________________________________________________________________________________
dropout_1 (Dropout) (None, 10) 0 dense_5[0][0]
_______________________________________________________________________________________
dense_6 (Dense) (None, 2) 22 dropout_1[0][0]
_______________________________________________________________________________________
my_layer1_1 (MyLayer1) (None, 2) 0 my_layer0_1[0][0]
dense_6[0][0]
=======================================================================================
カスタムレイヤー0は以下です。再構築エラーをつくって低次元の特徴に concat すればいいと思うんですが、まだつくっていないのでなので低次元の特徴を2つ concat しています（不整脈データの例では低次元の特徴と再構築エラーが同じ2次元なので）。雰囲気です。
from keras import backend as K
class MyLayer0(Layer):
def __init__(self, **kwargs):
self.output_dim = 4
super(MyLayer0, self).__init__(**kwargs)
def reconstruction_loss(self, x_org, x_dash):
return metrics.mean_squared_error(x_org, x_dash)
def reconstruction_error(self, x_org, x_dash):
z_e = None
return z_e
def call(self, inputs):
x_org = inputs[0]
z_c = inputs[1]
x_dash = inputs[2]
loss = self.reconstruction_loss(x_org, x_dash)
self.add_loss(loss, inputs=[x_org, x_dash])
z_e = z_c
z = K.concatenate([z_c, z_e], axis=1)
return z
def compute_output_shape(self, input_shape):
return(input_shape[1][0], self.output_dim)
カスタムレイヤー1は以下です。ここは損失にエネルギー項と正則化項を足すだけですがまだ書いていません。一応各分布への割り当て gamma をそのまま output していますが output する必要はないです。
class MyLayer1(Layer):
def __init__(self, **kwargs):
self.output_dim = 2
super(MyLayer1, self).__init__(**kwargs)
def custom_loss(self, z, gamma):
return 0
def call(self, inputs):
z = inputs[0]
gamma = inputs[1]
loss = self.custom_loss(z, gamma)
self.add_loss(loss, inputs=[z, gamma])
return gamma
def compute_output_shape(self, input_shape):
return(input_shape[1][0], self.output_dim)
まだ実装してないのでわかりませんというか実装すればいいんですが気が向いたらやります。いつ気が向くのかはわかりません。
深層自己符号化器までは何も問題ないはずなので取り出して動かしてみます。
df = pd.read_csv('arrhythmia.data', header=None)
df = df.drop(df.columns[[10,11,12,13,14]], axis=1)
df.iloc[:,274][(df.iloc[:,274]>=1 ) & (df.iloc[:,274]<=2 )] = 20
df.iloc[:,274][(df.iloc[:,274]>=3 ) & (df.iloc[:,274]<=5 )] = 21
df.iloc[:,274][(df.iloc[:,274]>=6 ) & (df.iloc[:,274]<=6 )] = 20
df.iloc[:,274][(df.iloc[:,274]>=7 ) & (df.iloc[:,274]<=9 )] = 21
df.iloc[:,274][(df.iloc[:,274]>=10) & (df.iloc[:,274]<=13)] = 20
df.iloc[:,274][(df.iloc[:,274]>=14) & (df.iloc[:,274]<=15)] = 21
df.iloc[:,274][(df.iloc[:,274]>=16) & (df.iloc[:,274]<=16)] = 20
df.iloc[:,274] = df.iloc[:,274] - 20
x = df.drop(df.columns[[274]], axis=1).values
y = df.iloc[:,274].values
DAE = Model(x_org, x_dash)
DAE.compile(loss='mean_squared_error', optimizer=optimizers.Adam(lr=0.0001))
DAE.fit(x, x, shuffle=True, epochs=10000, batch_size=128)
encoder = Model(x_org, z_c)
z_trained = encoder.predict(x)
plt.figure(figsize=(12, 8))
plt.scatter(z_trained[:,0], z_trained[:,1], c=y, cmap=plt.get_cmap("bwr"))
cb = plt.colorbar()
for t in cb.ax.get_yticklabels():
t.set_fontsize(18)
plt.tick_params(labelsize=18)
plt.show()
上で学習すると特徴空間（2次元）は以下のようになりました。青が正常で赤が異常です。452点あったはずなんですが、相当重なっていると思います。
あと再構築誤差方向への分布はどうなっているのかも気になると思います。さらに何らかの再構築誤差も含めてプロットしようとするともう3次元プロットになってしまうのでその準備をします。
from mpl_toolkits.mplot3d import Axes3D
def my_relative_distance(x, y):
ret = []
for i in range(x.shape[0]):
e2 = 0
x2 = 0
for j in range(x.shape[1]):
e2 = e2 + (x[i][j] - y[i][j]) * (x[i][j] - y[i][j])
x2 = x2 + x[i][j] * x[i][j]
ret.append(e2 / x2)
return ret
その上でこうすると再構築誤差も含めてプロットできると思います。
encoder = Model(x_org, z_c)
x0 = df.loc[df.iloc[:,274]==0,:].drop(df.columns[[274]], axis=1).values
x1 = df.loc[df.iloc[:,274]==1,:].drop(df.columns[[274]], axis=1).values
z_trained0 = encoder.predict(x0)
z_trained1 = encoder.predict(x1)
r_error0 = my_relative_distance(x0, DAE.predict(x0))
r_error1 = my_relative_distance(x1, DAE.predict(x1))
fig = plt.figure(figsize=(12, 8))
ax = Axes3D(fig)
ax.plot(z_trained0[:,0], z_trained0[:,1], r_error0, "o", color="#0000ff")
ax.plot(z_trained1[:,0], z_trained1[:,1], r_error1, "o", color="#ff0000")
plt.tick_params(labelsize=18)
plt.show()
なんか再構築誤差方向にも異常データと正常データがあまり分離されているようにみえないので、深層自己符号化器のみで分離する場合は適するハイパーパラメータが違うんだと思います。
