수문학적 예측을 위한 딥러닝기반 인공신경망의 최적화 알고리즘 비교

• 영문명: Comparison of Optimization Algorithms in Deep Learning-Based Neural Networks for Hydrological Forecasting: Case Study of Nam River Daily Runoff
• 발행기관: 한국방재학회
• 저자명: 마샤 모라디(Mahsa Moradi) 이태삼(Lee Taesam)
• 간행물 정보: 『2. 한국방재학회 논문집』 18권6호, 377~384쪽, 전체 8쪽
• 주제분류: 공학 > 기타공학
• 파일형태: PDF
• 발행일자: 2018.10.30

국문 초록

인공신경망은 수문기상학적 변수들에 대해 강우유출 시뮬레이션, 통계학적 상세화 등에 널리 사용되어 왔다. 최근에는 인공신경망을 기반으로 한 딥러닝 기술이 혁신적으로 발전되어오고 있다. 딥러닝의 성능을 향상시키기 위해서, 인공신경망에 들어가는 매개변수를 추정하기 위한 다양한 최적화 기법들이 개발되어 왔다. 이러한 다양한 최적화 기법 중에서 수문학적 적용에 가장 유용한 방법을 선정해 주는 것은 매우 중요한 문제일 것이다. 따라서 본 연구에서는 기존에 개발된 SGD와 더불어 최근에 개발된 Adagrad, RMSprop, Adadelta, Adam, and Nadam의 기법들을 남강댐 유역의 강우-유출시뮬레이션에 적용하여 가장 좋은 최적화 기법을 찾는 연구를 실시하였다. 연구결과 성능에 뚜렷한 큰 차이는 없었으나 기존의 방법보다 Adam과 Nadam이 보다 좋은 성능을 보이고 있음을 확인할 수 있었다. 이러한 조그만 차이라 할지라도 많은 매개변수 추정을 여러차례 반복해야 하는 딥러닝의 특성상 중요한 결과로 여겨진다. 따라서, 본 연구는 수문기상분야에서 딥러닝을 위한 새로운 매개변수 추정 기법을 실험하였고 나온 결과들을 토대로 딥러닝의 다양한 수문학적 적용사례가 나오길 기대한다.

영문 초록

Neural networks have been widely used in forecasting hydrometeorological variables such as rainfall-runoff simulation and statistical downscaling. Furthermore, deep learning approaches have been developed in recent decades. To improve the performance in deep learning, many optimization algorithms have been proposed in literature to estimate the weights of connections between nodes. An essential need exists to provide information about how the proposed optimization algorithms behave in different applications so that a reasonable algorithm can be selected for a particular application. In the current study, we used rainfall datasets of the Nam River basin to test several available algorithms used in runoff forecasting such as Stochastic Gradient Descent (SGD), Adaptive Gradient Algorithm (Adagrad), Root-Mean-Square prop (RMSprop), Adaptive Delta (Adadelta), Adaptive Moment Estimation (Adam), and Adam with Nesterov Momentum (Nadam). Among these, Adam and Nadam, which are the most recently developed, presented better performance in predicting runoff even though the difference was limited. This difference might be critical when using modeling procedures that must be repeated numerous times, such as deep learning. Further extensive studies might refine the parameter estimation algorithm and allow the use of deep learning for hydrometeorological applications with the tested recent optimization algorithms.

목차

Abstract

요지

1. 서론

2. 인공신경망(Artifical Neural Network)

3. 최적화 알고리즘

4. 자료 및 적용방법

5. 결과

6. 요약 및 결론

References

키워드

인공신경망 최적화 강우유출 시뮬레이션 Neural Network Optimization Rainfall-Runoff Simulation