earticle

논문검색

도메인 특화된 경량 언어 모델을 이용한 학술 논문 이해도 분석

원문정보

Understanding Analysis of Research Publications with Domain-specific Lightweight Language Models

석준희, 박창희

피인용수 : 0(자료제공 : 네이버학술정보)

초록

영어

Recent advancements in language models have led to ongoing efforts to apply them in various specialized research fields. In this paper, we demonstrate the potential of lightweight language models specific in the domain of management to understand the abstracts of research papers. First, we show that the understanding of sentences in abstracts by the specific language models improve by approximately 60% compared to general models. Using these models, the similarities between papers were compared, revealing relationships among academic journals. Finally, the specific models achieve an accuracy of 70% in selecting words that are meaningful in management contexts, which could assist in formulating academic hypotheses and accumulating knowledge. The findings of this paper are expected to apply not only to research in the field of management but also to other specific fields, thereby accelerating the advancement of academia and technology.

한국어

최근 발전한 언어 모델을 이용하여 다양한 전문 분야의 연구에 활용하고자 하는 시도가 계속되고 있다. 본 논문에서 는 경영학 도메인에 특화된 경량 언어 모델을 이용하여 경영학 논문의 초록을 이해하고 향후 연구에 도움이 될 수 있음을 보였다. 먼저, 경영학에 특화된 언어 모델의 논문 초록 문장에 대하여 Perplexity로 측정되는 이해도가 특 화되지 않은 모델에 비해서 60% 정도 향상되었음을 보였다. 이를 이용하여 각 논문의 유사도를 비교함으로써 학술 지 사이의 관계를 파악하였다. 마지막으로 특화 모델이 경영학적으로 의미를 갖는 단어를 선택함에 있어서 70%의 정확도를 보였는데, 이는 학문적인 가설 도출이나 지식 축적에 도움이 될 수 있다. 본 논문의 결과는 대규모 모델을 사용하기 어려운 경영학 분야의 연구뿐만 아니라 다른 전문 분야의 연구에도 적용되어, 학문과 기술의 발전을 가속 화 할 수 있을 것으로 기대된다.

목차

요약
Abstract
1. 서론
2. 데이터 및 실험방법
2.1 경영학 문헌 데이터 수집
2.2 영화 리뷰 데이터 수집
2.3 경량 언어 모델
2.4 도메인 특화 모델의 훈련
2.5 성능 평가
3. 실험 결과 및 고찰
3.1 기본 모델에 따른 문장 이해도
3.2 논문 초록 유사도 분석
3.3 단어 예측 분석
4. 결론
감사의 글
참고문헌

저자정보

  • 석준희 Junhee Seok. 고려대학교 전기전자공학부
  • 박창희 Chang Hee Park. 연세대학교 경영대학

참고문헌

자료제공 : 네이버학술정보

    함께 이용한 논문

      0개의 논문이 장바구니에 담겼습니다.