[2023 Spring Lab Seminar] Efficient Dialogue State Tracking by Selectively Overwriting Memory (ACL 2020)

 

[2023 Spring NLP Seminar]
 Efficient Dialogue State Tracking by Selectively Overwriting Memory (ACL 2020)

 

 

A.K.A SOM-DST

 

Naver Clova에서 만든 SOM-DST! 

 

 

 

Abstract & Introduction 

 

 

이 논문은 대화 시스템의 효율적인 State Tracking을 위한 "Selectively Overwriting Memory" 접근 방식을 제안

 

 

• State Tracking은 대화 시스템에서 중요한 역할
  • 대화 시스템은 사용자의 발화를 이해하고, 이전 발화와 현재 발화를 연결하여 사용자 의도를 파악하고 적절한 응답을 생성한다.
  • 이를 위해서는 이전 대화 상황에 대한 정보를 메모리에 저장하고 업데이트해야 함
• 기존의 Dialogue State Tracking 방법은 대부분 전체 메모리를 다시 쓰는 방식을 사용
  • 하지만 이는 메모리 사용량이 많아지고 연산량이 증가하므로 효율적이지 않습니다. 이 논문에서는 "Selectively Overwriting Memory"를 사용하여 이 문제를 해결합니다.

•  "Selectively Overwriting Memory"는 이전 대화 상황에서 변경된 정보만 메모리에 추가하는 방식
  • 예를 들어, 이전에 사용자가 "나는 피자를 좋아합니다"라고 말했고, 이후 사용자가 "오늘은 라면을 먹고 싶어요"라고 말했다면, 이전 발화에서 "피자"라는 정보만을 메모리에 추가
  • 이렇게 하면 메모리 사용량과 연산량을 줄일 수 있음
• 본 논문에서는 이 방법을 사용하여 대화 상태 추적의 성능을 향상시키는 실험을 수행 
  • 실험 결과, 선택적 메모리 덮어쓰기를 사용하는 모델은 기존 방법에 비해 메모리 사용량과 연산량이 감소하면서도 성능이 유지되는 것을 확인할 수 있었음

 

 

 

 

 

 

https://youtu.be/EqjfEN8mSB0

 

https://github.com/clovaai/som-dst

GitHub - clovaai/som-dst: SOM-DST: Efficient Dialogue State Tracking by Selectively Overwriting Memory (ACL 2020)

https://arxiv.org/abs/1911.03906

Efficient Dialogue State Tracking by Selectively Overwriting Memory