고정 헤더 영역
상세 컨텐츠
본문
Xia, M., Shen, Y., Yang, C., Yi, R., Wang, W., & Liu, Y. J. (2024, July). SMaRt: Improving GANs with Score Matching Regularity. In International Conference on Machine Learning (pp. 54133-54155). PMLR.
[2311.18208] SMaRt: Improving GANs with Score Matching Regularity
SMaRt: Improving GANs with Score Matching Regularity
Generative adversarial networks (GANs) usually struggle in learning from highly diverse data, whose underlying manifold is complex. In this work, we revisit the mathematical foundations of GANs, and theoretically reveal that the native adversarial loss for
arxiv.org
요약:
GAN의 adversarial loss만으로는 data manifold를 전부 다룰 수 없음을 보인다. 사전 학습된 diffusion model을 approximate score function으로 사용하여, GAN 학습때 score matching을 보조적으로 수행했을 때 data manifold를 더 잘 학습하고 GAN의 이미지 생성 결과도 더 개선됨을 확인한다.
더 깊게 읽을까?
깊이 읽어볼 필요성이 있다. 지금 다루는 주 문제 중 하나가 manifold에 잘 맞추는 representation learning과 관련 있기 때문이다. 다만 시간이 급해서 일단 AI 돌려서 활용할 것 같고, 급한 시기를 지나면 기반을 다지기 위해서 제대로 읽어봐야겠다. AI가 너무 잘 하니까 어디까지 정독을 해야할지 애매하게 느껴지기는 한다.
'학술 > 인공지능 논문 읽기' 카테고리의 다른 글
| [짧은 글] Scaling and evaluating sparse autoencoders (0) | 2026.04.29 |
|---|---|
| [짧은 글] Entailment as Robust Self-Learner (2023) (0) | 2026.04.24 |
| [짧은 글] Human-inspired Episodic Memory for Infinite Context LLMs (2025) (0) | 2026.04.15 |
| [짧은 글] Neural Operator (2023): 연산자를 학습하는 범용 신경망 모델 (0) | 2026.04.13 |
| (Vanilla) Transformer 흐름 이해하기 by The Annotated Transformer (0) | 2023.07.11 |
댓글 영역