연합학습
Federated Learning
데이터를 중앙 서버로 모으지 않고 각 클라이언트(기기·기관)가 로컬 데이터로 모델을 학습한 뒤 모델 파라미터(가중치·기울기)만 서버에 전송·집계하여 전역 모델을 만드는 분산 기계학습 기법임.
핵심 키워드
로컬 학습전역 모델 집계FedAvg(Federated Averaging)수평·수직 연합학습Non-IID 데이터보안 집계(Secure Aggregation)차분 프라이버시(Differential Privacy)통신 효율모델 오염(Poisoning) 공격
구성도
정리
1. 개요
- 배경: 개인정보 보호 규제 강화, 의료·금융 등 데이터 이동 제약, 모바일 기기 데이터 분산
- 필요성: 원본 데이터 반출 없이 다수 참여자의 데이터를 활용한 공동 학습
- 유래: Google이 모바일 키보드 예측 등에 적용하며 FedAvg 알고리즘 제안(2017년 논문)
2. 구성 및 원리
- 구성요소: 중앙 서버(Aggregator), 클라이언트(로컬 데이터·학습), 통신 채널
- 동작 절차(라운드 반복)
- 서버가 전역 모델 배포 및 참여 클라이언트 선택
- 클라이언트가 로컬 데이터로 여러 epoch 학습
- 갱신된 가중치(또는 변화량)만 서버로 전송
- 서버가 데이터 수 비례 가중평균(FedAvg)으로 집계 → 전역 모델 갱신
- 유형
- 수평(Horizontal): 특성 동일, 샘플(사용자) 상이 — 예: 여러 병원의 동일 검사 데이터
- 수직(Vertical): 샘플 동일, 특성 상이 — 예: 같은 고객의 은행·통신사 데이터
- 연합 전이학습(Transfer): 샘플·특성 모두 겹침이 적은 경우
3. 특징 및 비교
| 구분 | 중앙집중 학습 | 연합학습 |
|---|---|---|
| 데이터 위치 | 중앙 서버로 수집 | 각 클라이언트에 잔류 |
| 전송 대상 | 원본 데이터 | 모델 파라미터 |
| 프라이버시 | 유출 위험 높음 | 상대적으로 우수 |
| 데이터 분포 | 균질화 가능 | Non-IID로 수렴 어려움 |
| 비용 | 저장·전송 비용 | 반복 통신·클라이언트 연산 비용 |
- 유형 구분: Cross-device(대규모 모바일·IoT) vs Cross-silo(소수 기관 간)
4. 고려사항 및 최신 동향
- 기술 과제: Non-IID 데이터로 인한 성능 저하(FedProx 등 보완), 클라이언트 이탈·이기종 성능, 통신량(압축·양자화)
- 보안 위협
- 기울기 역추적(Gradient Inversion)으로 학습 데이터 복원 가능성 → 파라미터 전송만으로 완전한 프라이버시 보장 아님
- 악성 참여자의 모델·데이터 오염(Poisoning), 백도어
- 대응 기술: 보안 집계, 차분 프라이버시, 동형암호, 강건 집계(이상 업데이트 배제)
- 동향: 의료 공동연구, 금융 이상거래 탐지, 온디바이스 AI, LLM 연합 파인튜닝 연구
함께 볼 토픽
v1 · 2026. 10. 19. 갱신 · 틀린 내용을 발견하면 알려 주세요.