본문 바로가기

추천 검색어

실시간 인기 검색어

학술논문

단문의 주제 분석을 위한 LDA와 BTM 토픽모형 평가

이용수 236

영문명
Evaluating LDA and BTM Topic Models for Short Texts
발행기관
한국자료분석학회
저자명
문길성(Gil-Seong Mun)
간행물 정보
『Journal of The Korean Data Analysis Society (JKDAS)』Vol.23 No.3, 1313~1326쪽, 전체 14쪽
주제분류
자연과학 > 통계학
파일형태
PDF
발행일자
2021.06.30
4,480

구매일시로부터 72시간 이내에 다운로드 가능합니다.
이 학술논문 정보는 (주)교보문고와 각 발행기관 사이에 저작물 이용 계약이 체결된 것으로, 교보문고를 통해 제공되고 있습니다.

1:1 문의
논문 표지

국문 초록

토픽 모형은 대량의 문서 집합에서 잠재된 주제를 발견하기 위한 비지도학습의 하나이며, 가장 많이 이용되고 있는 모형은 LDA(Latent Dirichlet Allocation)인 것으로 알려져 있다. LDA는 문서 수준에서 단어의 동시 출현 패턴에 기반을 둔 모형이어서 길이가 긴 문서에서는 효과적으로 이용될 수 있으나, 트윗이나 인스턴트 메시지와 같은 길이가 짧은 문서에는 단어의 동시 출현이 희박하고 자주 사용되지 않는 단어의 출현으로 인하여 양질의 주제 추론이 어렵다는 한계가 있다. 이 문제를 개선하기 위한 하나의 대안으로 BTM(Bi-term Topic Model)이 있다. BTM은 bi-term을 사용하여 단어의 동시 발생을 모델링하고, 주제를 찾기 위하여 이러한 단어의 동시 발생 패턴을 bi-term의 말뭉치에서 집계한다. 본 연구의 목적은 LDA와 BTM의 성능을 비교하고 한국어 기반의 텍스트 데이터에서 BTM의 활용 가능성을 검토하는 데 있다. 이를 위하여 토픽의 질을 양적으로 측정할 수 있는 측도들을 검토하고 실제 자료에 적용하여 두 모형을 평가하였다. 평가결과, 주제 일관성과 문서 분류의 정확성 모두 BTM이 LDA 보다 우수한 것으로 나타났다. 이러한 결과는 단문에서 양질의 토픽을 추출하는 방법으로 BTM의 활용 가능성이 있음을 시사한다.

영문 초록

Topic modeling is an unsupervised technique for discovering the underlying topics that occur in a collection of documents, and one popular model is known as LDA (Latent Dirichlet Allocation). It can be used effectively on a variety of long document types because the model implicitly captures the document-level word co-occurrence patterns to reveal topics. The model, however, may have difficulty extracting topics due to the severe data sparsity in short texts such as tweets and instant messages. An alternative to improve this problem is to BTM (Bi-term Topic Model). BTM models the word co-occurrence by using the explicit bi-term, and aggregate these word co-occurrence patterns in the corpus for topic discovering. This study is to compare the performance of LDA and BTM and explore the availability of BTM in Korean-based text data. We reviewed the measures to quantitatively represent the quality of the topics, and evaluated the two models based on real data. As a result, BTM outperformed LDA on short texts, using topic coherence and document classification accuracy as performance measures. The results suggest the availability of BTM to extract topics from short texts.

목차

1. 서론
2. 관련 연구
3. 연구 방법
4. 모형 평가
5. 결론
References

키워드

해당간행물 수록 논문

참고문헌

교보eBook 첫 방문을 환영 합니다!

신규가입 혜택 지급이 완료 되었습니다.

바로 사용 가능한 교보e캐시 1,000원 (유효기간 7일)
지금 바로 교보eBook의 다양한 콘텐츠를 이용해 보세요!

교보e캐시 1,000원
TOP
인용하기
APA

문길성(Gil-Seong Mun). (2021).단문의 주제 분석을 위한 LDA와 BTM 토픽모형 평가. Journal of The Korean Data Analysis Society (JKDAS), 23 (3), 1313-1326

MLA

문길성(Gil-Seong Mun). "단문의 주제 분석을 위한 LDA와 BTM 토픽모형 평가." Journal of The Korean Data Analysis Society (JKDAS), 23.3(2021): 1313-1326

결제완료
e캐시 원 결제 계속 하시겠습니까?
교보 e캐시 간편 결제