[2023 Spring Lab Seminar] Sequential Modelling of the Evolution of Word Representations for Semantic Change Detection (EMNLP, 2022)

 

 

 

Sequential Modelling of the Evolution of Word Representations for Semantic Change Detection
(EMNLP, 2022)

 

 

 

요약:

 

이 논문은 시간이 지남에 따라 의미가 변화한 단어를 식별하는 작업인 '의미 변화 감지'에 관한 것

본 연구에서는 단어 벡터의 시퀀셜 모델 세 가지 변형을 제안하여 시간에 따른 단어 표현의 변화를 효과적으로 고려

가상 및 실제 데이터에 대해 다양한 설정에서의 광범위한 실험을 통해 단어 벡터의 시퀀셜 모델링이 의미 변화 감지에 있어 중요성을 보여줌

마지막으로, 다양한 접근 방식을 정량적으로 비교하여 단어 표현의 시간적 모델링이 성능적으로 명확한 이점을 제공하는 것을 입증

 

 

 

• 기존 연구: 
  • 기존의 연구들은 단어의 벡터 표현을 비교하여 의미적 변화를 감지하는데 초점을 맞추고 있다
  • 현재 최첨단 기법은 두 개의 서로 다른 시기에서 단어의 벡터 표현을 비교하여 의미적 변화의 수준을 감지
• 기존 연구의 한계
  • 이전의 연구들은 단어의 시간적 변화를 고려하지 않고, 단어 표현의 변화를 고려하지 않는다
• 본 연구의 제안점: 
  • 본 연구에서는 단어 벡터의 시퀀셜 모델을 제안하여 단어의 시간적 변화를 고려
• 결과: 
  • 실험 결과, 단어 표현의 시간적 모델링이 성능적으로 큰 이점을 제공함을 보여줌

 

 

https://aclanthology.org/2020.emnlp-main.682/