잡음 제거 확산 확률 모델 (DDPM)

한눈에 보는 요약

초록 (한국어 정리)

본 연구는 비평형 열역학에서 착안한 잠재변수 모델인 확산 확률 모델을 이용하여 고품질 이미지 합성 결과를 제시한다. 확산 확률 모델과 랑주뱅 동역학 기반 잡음 제거 점수 매칭 사이의 새로운 연결에 따라 설계된 가중 변분 하한을 학습함으로써 최고 수준의 결과를 얻었으며, 제안 모델은 자기회귀적 복호화의 일반화로 해석될 수 있는 점진적 손실 압축 방식을 자연스럽게 인정한다.

원문 초록을 학술 문체에 맞게 한국어로 옮긴 것입니다. 직접 인용이 필요하다면 원문을 확인하세요.

연구 배경

• GAN은 선명한 이미지를 만들지만 학습이 불안정하고 모드 붕괴(생성 다양성 상실)가 잦았다.
• VAE와 흐름 기반 모델은 학습이 안정적이지만 생성 품질이 GAN에 미치지 못했다.
• 확산 모델 개념은 2015년에 제안되었으나 실제 이미지 품질이 낮아 주목받지 못하고 있었다.

연구 방법

• 순방향 과정 — 원본 이미지에 정해진 스케줄에 따라 가우시안 잡음을 T단계(논문에서는 1000단계)에 걸쳐 더한다. 학습이 필요 없는 고정 과정이다.
• 역방향 과정 — 각 단계에서 '무슨 잡음이 더해졌는지'를 예측하는 신경망을 학습한다. 저자들의 핵심 기여는 목적함수를 복잡한 변분 하한 대신 '잡음 예측 오차의 단순 평균제곱오차'로 단순화한 것이다.
• 신경망 구조 — U-Net에 셀프 어텐션과 시간 단계 임베딩을 결합해 사용했다.
• 샘플링 — 순수 잡음에서 시작해 학습된 신경망으로 1000번 반복해 잡음을 제거하며 이미지를 만든다.

주요 결과

• CIFAR-10에서 Inception Score 9.46, FID 3.17을 기록해 당시 최고 수준을 달성했다.
• 256×256 LSUN 데이터셋에서 ProgressiveGAN에 필적하는 품질의 샘플을 생성했다.
• 학습이 안정적이며 모드 붕괴가 관찰되지 않았다 — GAN 대비 실질적 장점이다.

학술적 기여

• 복잡했던 확산 모델의 학습 목표를 단순한 잡음 예측 회귀 문제로 정리해 재현과 확장을 쉽게 만들었다.
• 생성 모델의 주류를 GAN에서 확산 모델로 이동시키는 계기가 되었다.
• 이후 Latent Diffusion(Stable Diffusion), DALL·E 2, Imagen 등 실제 서비스의 직접적 토대가 되었다.

한계와 비판

• 샘플 하나를 만드는 데 신경망을 1000번 통과해야 해 GAN보다 훨씬 느리다. 이후 DDIM 등 가속 기법이 등장했다.
• 고해상도 이미지에서는 픽셀 공간 연산 비용이 급증한다 — Latent Diffusion이 이 문제를 해결했다.
• 논문 단계에서는 텍스트 조건부 생성(프롬프트로 그림 그리기)을 다루지 않는다.

과제에서 이 논문을 다룰 때 한계 부분을 함께 서술하면 비판적으로 읽었다는 인상을 줍니다.

보고서 목차 구성안

이 논문 한 편으로 보고서를 쓴다면 아래 순서를 그대로 사용하실 수 있습니다.

1. 서론: 생성 모델의 계보와 GAN의 한계
2. 확산 모델의 직관: 잡음을 더하고 되돌리기
3. 순방향·역방향 과정의 수식 구조
4. 단순화된 학습 목표의 유도
5. 실험: CIFAR-10, LSUN 결과
6. GAN·VAE와의 비교
7. 한계와 후속 발전(DDIM, Latent Diffusion)

발표 슬라이드 구성안

15분 내외 발표 기준입니다. 시간이 짧다면 핵심 아이디어와 결과 슬라이드만 남기세요.

자주 묻는 질문

함께 보면 좋은 논문