MLOps

1. 개요

• 배경: 실제 ML 시스템에서 모델 코드는 일부이며, 데이터 수집·검증·서빙·모니터링 등 주변 인프라가 대부분을 차지 (Hidden Technical Debt in ML Systems 논의)
• 문제점: 수작업 배포, 학습-운영 환경 불일치, 시간 경과에 따른 모델 성능 저하(드리프트)
• 필요성: DevOps 원칙을 ML에 확장하여 재현성·신속한 배포·운영 품질 확보

2. 구성 및 원리

• 데이터 관리: 데이터 수집·검증, 데이터 버전 관리, 피처 스토어(학습·서빙 피처 일관성)
• 모델 개발: 실험 추적(하이퍼파라미터·지표 기록), 모델 레지스트리(버전·승인 상태 관리)
• 자동화 파이프라인
  • CI: 코드뿐 아니라 데이터·스키마·모델 테스트
  • CD: 학습 파이프라인 및 예측 서비스 배포
  • CT(Continuous Training): 신규 데이터·성능 저하 시 자동 재학습
• 배포·서빙: 배치/온라인 추론, 카나리·A/B·섀도 배포
• 모니터링: 예측 성능, 데이터 드리프트(입력 분포 변화), 개념 드리프트(입력-정답 관계 변화), 지연·자원 사용량

3. 특징 및 비교

• 성숙도(Google 제시): Level 0 수동 프로세스 → Level 1 ML 파이프라인 자동화(CT) → Level 2 CI/CD 파이프라인 자동화

4. 고려사항 및 최신 동향

• 조직: 데이터 과학자·ML 엔지니어·운영 조직 간 역할 분담 및 협업 체계
• 거버넌스: 모델 계보(Lineage) 추적, 설명가능성·공정성 검증, 규제 대응을 위한 기록 보존
• 도구 생태계: MLflow, Kubeflow, 클라우드 관리형 ML 플랫폼 등 (쿠버네티스 기반 확장)
• LLMOps: 프롬프트 버전 관리, RAG 파이프라인 운영, LLM 출력 평가·가드레일, 토큰 비용 모니터링
• 보안: 학습 데이터 오염(Poisoning), 모델 공급망 관리(모델·데이터 출처 관리)