금융 시계열 예측 신경망에서의 과적합 완화를 위한 임의 증강 기법

• 영문명: Random Augmentation Technique for Mitigating Overfitting in Neural Networks for Financial Time Series Forecasting
• 발행기관: 한국자료분석학회
• 저자명: 곽영롱(Yeonglong Kwak) 허정규(Jeong-gyu Huh)
• 간행물 정보: 『Journal of The Korean Data Analysis Society (JKDAS)』Vol.25 No.5, 1653~1669쪽, 전체 17쪽
• 주제분류: 자연과학 > 통계학
• 파일형태: PDF
• 발행일자: 2023.10.31

국문 초록

과적합 현상은 금융 시계열 자료 예측 작업을 수행하기 위해 신경망 모형을 활용할 때 발생하는 주요 문제 중 하나이다. 금융 시계열 자료는 다른 분야에 비해 상대적으로 자료 개수가 적어 과적합 특징이 두드러지는 경향이 있다. 우리는 본연구를 통해 제시한 임의 증강 기법 알고리즘으로 신경망 기반 시계열 자료 예측 작업에서 과적합을 완화하는 방법을 제안하고자 한다. 본 연구의 신경망은 LSTM 순환 신경망 구조를 가지며, 제안 방법은 학습 과정에서 단계적으로 학습 기울기를 감소시키면서, 학습자료를 확률적으로 증강하는 방식을 따른다. 제안한 알고리즘의 성능을 검증하기 위해 가장 유명한 변동성 지수인 VIX 지수 시계열을 네 개의 구간으로 나누어 교차 검증을 진행하였다. 본 연구에서 진행한 실험 결과에 따르면 학습자료 증강 과정에서 임의선택영역 비중이 증가할수록 모형의 예측 성능이 향상되는 경향을 보이며, 알고리즘이 적용되지 않은 보편적인 LSTM 신경망과 비교하였을 때 네 개의 교차 검증 데이터에서 RMSE 수치가 각각 23%, 34%, 32%, 34% 감소하여 과적합 현상 완화에 효과적임을 확인하였다.

영문 초록

Overfitting is one of the major challenges encountered when using neural network models for financial time series forecasting tasks. The nature of financial time series data, often sparser than in other fields, tends to exacerbate the symptoms of overfitting. In this study, we propose a method to alleviate overfitting in neural network-based time series forecasting tasks through a novel data augmentation algorithm. The neural network structure employed in this research is a Long Short-Term Memory (LSTM) recurrent network. The proposed method gradually reduces the learning rate during the training process, whilst randomly augmenting the training data. To validate the performance of the proposed algorithm, we divided the VIX Index, into four sections and performed cross-validation. When compared to a standard LSTM network without the application of our algorithm, we confirmed that the Root Mean Square Error (RMSE) was reduced by 23%, 34%, 32%, and 34% in each cross-validation section respectively.

목차

1. 서론

2. 배경

3. 방법

4. 실험 및 결과

5. 결론

References

키워드

과적합 LSTM 순환 신경망 기울기 감쇠 임의 데이터 증강 VIX 지수 Overfitting LSTM recurrent network learning rate decay random augmentation method VIX Index