단문의 주제 분석을 위한 LDA와 BTM 토픽모형 평가

• 영문명: Evaluating LDA and BTM Topic Models for Short Texts
• 발행기관: 한국자료분석학회
• 저자명: 문길성(Gil-Seong Mun)
• 간행물 정보: 『Journal of The Korean Data Analysis Society (JKDAS)』Vol.23 No.3, 1313~1326쪽, 전체 14쪽
• 주제분류: 자연과학 > 통계학
• 파일형태: PDF
• 발행일자: 2021.06.30

국문 초록

토픽 모형은 대량의 문서 집합에서 잠재된 주제를 발견하기 위한 비지도학습의 하나이며, 가장 많이 이용되고 있는 모형은 LDA(Latent Dirichlet Allocation)인 것으로 알려져 있다. LDA는 문서 수준에서 단어의 동시 출현 패턴에 기반을 둔 모형이어서 길이가 긴 문서에서는 효과적으로 이용될 수 있으나, 트윗이나 인스턴트 메시지와 같은 길이가 짧은 문서에는 단어의 동시 출현이 희박하고 자주 사용되지 않는 단어의 출현으로 인하여 양질의 주제 추론이 어렵다는 한계가 있다. 이 문제를 개선하기 위한 하나의 대안으로 BTM(Bi-term Topic Model)이 있다. BTM은 bi-term을 사용하여 단어의 동시 발생을 모델링하고, 주제를 찾기 위하여 이러한 단어의 동시 발생 패턴을 bi-term의 말뭉치에서 집계한다. 본 연구의 목적은 LDA와 BTM의 성능을 비교하고 한국어 기반의 텍스트 데이터에서 BTM의 활용 가능성을 검토하는 데 있다. 이를 위하여 토픽의 질을 양적으로 측정할 수 있는 측도들을 검토하고 실제 자료에 적용하여 두 모형을 평가하였다. 평가결과, 주제 일관성과 문서 분류의 정확성 모두 BTM이 LDA 보다 우수한 것으로 나타났다. 이러한 결과는 단문에서 양질의 토픽을 추출하는 방법으로 BTM의 활용 가능성이 있음을 시사한다.

영문 초록

Topic modeling is an unsupervised technique for discovering the underlying topics that occur in a collection of documents, and one popular model is known as LDA (Latent Dirichlet Allocation). It can be used effectively on a variety of long document types because the model implicitly captures the document-level word co-occurrence patterns to reveal topics. The model, however, may have difficulty extracting topics due to the severe data sparsity in short texts such as tweets and instant messages. An alternative to improve this problem is to BTM (Bi-term Topic Model). BTM models the word co-occurrence by using the explicit bi-term, and aggregate these word co-occurrence patterns in the corpus for topic discovering. This study is to compare the performance of LDA and BTM and explore the availability of BTM in Korean-based text data. We reviewed the measures to quantitatively represent the quality of the topics, and evaluated the two models based on real data. As a result, BTM outperformed LDA on short texts, using topic coherence and document classification accuracy as performance measures. The results suggest the availability of BTM to extract topics from short texts.

목차

1. 서론

2. 관련 연구

3. 연구 방법

4. 모형 평가

5. 결론

References

키워드

단문 토픽모형 LDA BTM 주제 일관성 평가 측도 short texts topic models LDA BTM topic coherence evaluation metrics.