ArgumentIndexError: tensorflow의 LSTM을 사용할 때 주의 깊게 보아야 할 Parameter, return_sequences

🤔 Problem

tensorflow에서 제공하는 LSTM을 사용을 하면서 마주했던 에러 ArgumentIndexError에 대해 정리를 해보고자 합니다.

시계열 데이터를 학습하려는 시도의 과정에서 에러가 발생했으며, 에러의 자세한 내용은 Incompatible shapes: [32,4] vs. [32,20,4] 다음과 같습니다.

 

그리고, 에러가 났었던 모델의 코드는 아래와 같습니다.

model = tf.keras.models.Sequential()

model.add(tf.keras.layers.LSTM(units=64, 
                               input_shape=train_x.shape[-2:], 
                               dropout=0.1, 
                               recurrent_dropout=0.1,
                               activation='tanh',
                               return_sequences=True))
model.add(tf.keras.layers.BatchNormalization())
model.add(tf.keras.layers.LSTM(units=32, 
                               dropout=0.1, 
                               recurrent_dropout=0.1,
                               activation='tanh'))
model.add(tf.keras.layers.BatchNormalization())
model.add(tf.keras.layers.Dense(10))
model.add(tf.keras.layers.Dense(4))

---

😀 Solution

Incompatible shapes: [32,4] vs. [32,20,4] 이 문제가 일어났던 이유는 모델이 학습하는 과정에서 기존의 의도한 target의 shape가 후자에 해당하고, 2번째 LSTM에서 의도한 바와 다르게 output이 되었기 때문입니다. 이 문제를 해결하기 위해서 1번째 LSTM과 마찬가지로 recurrent_sequences를 True로 바꿔주어야 합니다.

 

이 파라미터가 의미하는 바는 LSTM이 기반이 되는 RNN의 구조를 살펴보면 이해가 될 수 있습니다. return_squences가 default로 False일 경우, 마지막의 모든 input과 모든 state에 해당하는 압축값과 유사한 마지막 output만을 LSTM Layer의 output으로 다음 Layer로 보내게 됩니다.

그렇기 때문에 의도한 LSTM의 output이 [32, 20, 4]가 나오지 않았던 이유는 타임스텝에 따른 output을 내놓지 않고, 단편적인 하나의 output을 내놓았기 때문입니다.

return_squences가 False일 때, 아래 그림의 빨간 박스에 해당합니다.

출처: 위키독스

그래서 return_sequences가 True일 경우에 타임 스텝에 따라 output을 내놓으며, 아래의 그림에서 빨간 박스가 LSTM의 output에 해당됩니다.

사실 이러한 에러가 간단한 에러라 볼 수 있었으나, 저는 해결을 하면서 기존의 공부 방향에 대해 고민을 하는 계기가 되었습니다. 또한, 저번 XGB Wrapper에 관한 에러에서도 비슷한 생각을 했었습니다.

 

지금까지 이론 쪽으로만 너무 치우치게 공부를 해온 게 아닐까라는 생각을 했습니다. 현대 물리학은 어떤지 모르겠으나 옛날 물리학은 크게 이론 물리학과 실험 물리학으로 나뉘었다고 합니다. 저는 이론 쪽으로만 편향적으로 공부를 해왔기에 실험에 해당하는 코드를 다루는 부분은 부족했기에 이런 에러들을 겪은 거라 확신합니다.

 

기존의 이 블로그의 포스팅을 보더라도 AI에 관련된 포스팅에서는 이론에 대해 이야기가 많았지만, 코드로 어떻게 구현이 될 수 있는지 혹은 라이브러리를 사용할 수 있다면, 어떻게 사용할 수 있는지에 대한 부분이 부족했다고 생각합니다. 이러한 에러들을 계기로 새로운 이론들을 공부하게 될 때는 이론과 실험(코드) 둘 다 챙겨가는 공부를 해야겠다는 관점이 만들어진 듯합니다.