학술논문
사전 학습된 한국어 BERT의 전이학습을 통한 한국어 기계독해 성능개선에 관한 연구
이용수 178
- 영문명
- A Study of Fine Tuning Pre-Trained Korean BERT for Question Answering Performance Development
- 발행기관
- 한국IT서비스학회
- 저자명
- 이치훈(Chi Hoon Lee) 이연지(Yeon Ji Lee) 이동희(Dong Hee Lee)
- 간행물 정보
- 『한국IT서비스학회지』한국IT서비스학회지 제19권 제5호, 83~91쪽, 전체 9쪽
- 주제분류
- 경제경영 > 경영학
- 파일형태
- 발행일자
- 2020.10.30
4,000원
구매일시로부터 72시간 이내에 다운로드 가능합니다.
이 학술논문 정보는 (주)교보문고와 각 발행기관 사이에 저작물 이용 계약이 체결된 것으로, 교보문고를 통해 제공되고 있습니다.
![논문 표지](https://contents.kyobobook.co.kr/sra/upload/book_img/154/154068.jpg)
국문 초록
영문 초록
Language Models such as BERT has been an important factor of deep learning-based natural language processing. Pre-training the transformer-based language models would be computationally expensive since they are consist of deep and broad architecture and layers using an attention mechanism and also require huge amount of data to train. Hence, it became mandatory to do fine-tuning large pre-trained language models which are trained by Google or some companies can afford the resources and cost.
There are various techniques for fine tuning the language models and this paper examines three techniques, which are data augmentation, tuning the hyper paramters and partly re-constructing the neural networks. For data augmentation, we use no-answer augmentation and back-translation method. Also, some useful combinations of hyper parameters are observed by conducting a number of experiments. Finally, we have GRU, LSTM networks to boost our model performance with adding those networks to BERT pre-trained model.
We do fine-tuning the pre-trained korean-based language model through the methods mentioned above and push the F1 score from baseline up to 89.66. Moreover, some failure attempts give us important lessons and tell us the further direction in a good way.
목차
1. 서 론
2. 관련 연구
3. 이론적 배경
4. 실험 및 결과
5. 결 론
참고문헌
해당간행물 수록 논문
- 항공과 대학생들의 실시간 온라인 원격수업의 지속사용의도에 영향을 미치는 요인에 관한 연구
- 애자일 수행 방식으로 본 디지털 전환의 성공요인
- 사전 학습된 한국어 BERT의 전이학습을 통한 한국어 기계독해 성능개선에 관한 연구
- 정보보호 정책의 전유과정이 정보보호 준수의도에 미치는 영향에 대한 탐색적 연구
- 코로나19 (COVID-19) 관련 위험정보 탐색과 처리가 코로나19 예방 행동 및 정보 공유에 미치는 영향
- 제어 네트워크 경계에 대한 OT-IT 책임 역할 연구
- 진단 모델 개발에 관한 연구
- 노인요양시설의 웰니스 IT서비스 활용에 관한 연구
- Personalized Seamless 라이프스타일 케어 스마트홈 서비스디자인 연구
- KS-SQI 서비스 품질이 고객 행태에 미치는 영향과 사용자 경험 평가 분석
참고문헌
교보eBook 첫 방문을 환영 합니다!
신규가입 혜택 지급이 완료 되었습니다.
바로 사용 가능한 교보e캐시 1,000원 (유효기간 7일)
지금 바로 교보eBook의 다양한 콘텐츠를 이용해 보세요!
![교보e캐시 1,000원](https://contents.kyobobook.co.kr/resources/dig-fo/dig/images/ink/etc/img_eCash@2x.png)