Robust Bootstrapping-based Self-supervised Learning for Graph Collaborative Filtering

Abstract

대조 학습 기반 모델은 원시 데이터에서 자체 감독 신호를 추출하는 기능이 데이터 희소성 문제를 해결하기 위한 추천 시스템의 요구 사항과 일치하기 때문에 추천 연구에서 주목을 받고 있다. 이러한 효율성에도 불구하고 대조 학습 기반 모델에는 중요한 한계점이 있다. 바로 네거티브 샘플링이다. 네거티브 샘플링 방식을 사용하면 사용자의 취향에 맞는 항목이지만 상호작용이 관찰되지 않은 사용자-항목 쌍을 네거티브로 선택할 수 있다. 이를 해결하기 위해 네거티브 샘플링이 필요하지 않은 부트스트래핑 기반의 자기 지도 학습 방법이 제안되었다. 그러나 이 방법에도 한계점이 있다. 관찰된 샘플만 사용하기 때문에 노이즈가 있는 상호 작용에 취약하다. 또한 실제 데이터 셋에는 희소성 문제가 있다. 위의 문제를 해결하기 위해 그래프 협업 필터링을 위한 강력한 부트스트래핑 기반 자기 지도 학습 모델, RBS를 소개한다. RBS는 그래프 노이즈 제거 모듈과 자가 지도 학습 모듈의 두 가지 모듈로 구성된다. 그래프 노이즈 제거 모듈은 잡음이 있는 상호 작용의 영향을 줄이기 위해 설계되었다. 자기 지도 학습 모듈은 온라인 인코더와 타깃 인코더로 구성된다. RBS는 타깃 인코더의 표현을 예측하도록 온라인 인코더를 학습하는 반면, 타깃 인코더는 온라인 인코더를 천천히 근사하여 일관된 타깃을 제공한다. 또한 RBS는 인코더 입력에 노이즈를 추가하여 데이터 희소성 문제를 효과적으로 완화한다. 3가지 벤치마크 데이터 셋에 대한 포괄적인 경험적 연구는 RBS가 모든 기준 모델을 일관되고 크게 능가한다는 것을 보여준다.

Contrastive learning (CL) based models are gaining traction in recommendation research, since their ability to extract self-supervised signals from raw data matches the requirements of recommender systems to solve the data sparsity issue. Despite their effectiveness, CL-based models have an important limitation: negative sampling. A negative sampling scheme allows positive but unobserved pairs to be selected as negative. To solve this problem, a bootstrapping-based self-supervised learning method that does not require negative sampling has been proposed. However, this method also has limitations. Because only positive samples are used, it is vulnerable to noisy interactions. Also, there is a sparsity issue in real-world data sets. To tackle the above issues, we introduce a Robust Bootstrapping-based Self-supervised learning model for graph collaborative filtering, named RBS. RBS consists of two modules: a graph denoising module and a self-supervised learning module. The graph denoising module is designed to reduce the influence of noisy interactions. The self-supervised learning module consists of an online encoder and a target encoder. RBS trains its online encoder to predict the target encoders representation, while the target encoder provides consistent targets by slowly approximating the online encoder. In addition, RBS effectively alleviates the data sparsity issue, by adding noises to encoder inputs. A comprehensive empirical study on three benchmark datasets demonstrates that RBS consistently and significantly outperforms all baseline methods.