Learning Adaptive Distribution Alignment with Neural Characteristic Function for Graph Domain Adaptation

Overview

• graph domain adaptation(GDA)에서 distribution shift 문제 해결을 위한 방법 제안
• 기존 방법은 global alignment 중심이라 fine-grained shift 반영이 어려움
• ADAlign은 characteristic function 기반 spectral alignment 방식 제안
• 핵심은 중요한 frequency component를 학습적으로 선택하여 분포 차이를 정렬하는 것

Key Takeaways

Problem Setting

• source graph와 target graph 간 distribution shift 존재
  • attribute, degree, homophily 등 다양한 변화 발생
• 기존 접근
  • KL divergence, MMD, Wasserstein 기반 분포 정렬
• 한계
  • coarse global alignment → fine-grained 차이 반영 부족
  • heuristic 기반 설계로 중요한 shift를 제대로 포착하지 못함
  • negative transfer 발생 가능
• 목표: 다양한 수준의 distribution shift를 정밀하게 정렬

Main Idea

• spectral domain에서 분포를 표현하고 adaptive하게 alignment 수행
• Characteristic Function (CF)
  • node embedding 분포를 Fourier domain으로 변환
  • amplitude(크기)와 phase(위상)로 분해하여 표현
  • 분포를 완전히 표현 가능 (MMD보다 정보 풍부)
• Neural Spectral Discrepancy (NSD)
  • source/target 간 CF 차이를 측정하는 지표
  • amplitude 차이 + phase 차이를 함께 고려
  • 두 분포 간 spectral discrepancy를 정밀하게 계산
• Adaptive Frequency Sampler
  • 모든 frequency를 동일하게 보지 않고 중요 frequency를 학습적으로 선택
  • Normal Scale Mixture 기반 sampling distribution 학습
  • MLP와 reparameterization trick 사용
• Minimax Optimization
  • encoder는 alignment loss 최소화
  • sampler는 discrepancy 최대화 (중요 frequency 강조)
  • source classification loss + alignment loss를 함께 최적화

Result

• 4개 domain, 10개 dataset, 16개 transfer task에서 실험 수행
• 기존 GDA 방법 대비 전반적으로 SOTA 성능 달성
• blog 데이터 등 복잡한 shift 환경에서 성능 향상 (약 6% 개선)
• runtime 및 memory 효율성 개선
  • 일부 방법 대비 속도 증가 및 메모리 감소
• adaptive frequency 선택이 성능 안정성과 일반화에 기여
• t-SNE 시각화에서 source/target 분포가 더 잘 정렬됨