DVC와 Amazon SageMaker AI MLflow 앱을 활용한 엔드-to-엔드 라인제

DVC는 Git의 사용성을 데이터·모델 아티팩트로 확장한 버전 관리 도구로, 실제 바이너리는 S3 같은 원격 스토리지에 두고 Git에는 해시 포인터만 남겨 대용량 데이터셋도 코드처럼 커밋·브랜치·태그로 관리할 수 있게 해준다. 여기에 Amazon SageMaker AI MLflow Apps는 기존 오픈소스 MLflow 트래킹 서버/모델 레지스트리를 AWS가 완전관리형으로 제공하는 형태라, 실험 파라미터·메트릭·아티팩트·모델 스테이지를 IAM·VPC와 통합해 운영할 수 있다. 이 글에서 제시하는 엔드투엔드 리니지는 "DVC 해시로 고정된 데이터셋 버전 → SageMaker 학습 Job → MLflow 런(run)과 모델 레지스트리 엔트리"를 하나의 체인으로 묶는 구조이며, 데이터셋 단위 리니지는 DVC 리비전 해시를 MLflow 태그로 기록하는 가벼운 방식이고, 레코드 단위 리니지는 각 샘플의 ID·소스를 추론 결과와 연결해 "이 예측이 어떤 학습 샘플 그룹에서 비롯됐는지"까지 역추적할 수 있게 한다.

실무적으로 이 조합은 규제·감사·디버깅이라는 세 축에서 즉각적인 효과를 낸다. 금융·의료처럼 모델 결정의 근거를 설명해야 하는 도메인에서는 "배포된 모델 v2.3이 학습된 데이터셋 스냅샷"을 해시 한 줄로 재현할 수 있어야 하는데, 기존에는 S3 경로 규칙과 수작업 메타데이터에 의존하던 부분이 DVC+MLflow 태깅으로 자동화된다. 또 프로덕션에서 모델 드리프트나 편향이 발견됐을 때, 레코드 단위 리니지가 있으면 문제 예측을 유발한 학습 샘플 군집을 역추적해 데이터 품질 이슈인지 모델 구조 이슈인지 빠르게 구분할 수 있다. 한국 팀 입장에서는 자체 MLflow 서버를 EKS에 띄워 운영하던 부담(인증 연동, HA, 백업)을 Managed MLflow Apps로 덜 수 있다는 점, 그리고 DVC가 S3/Minio뿐 아니라 사내 오브젝트 스토리지도 리모트로 쓸 수 있어 온프레·하이브리드 환경에서도 동일 패턴이 적용된다는 점이 크다.

도입을 검토한다면 먼저 데이터셋 단위 리니지부터 시작하는 것이 현실적이다. `dvc add`로 데이터셋을 스테이징한 뒤 커밋 해시와 DVC 파일 해시를 학습 스크립트에서 `mlflow.set_tag("dvc_rev", ...)` 형태로 남기고, 이후 모델을 레지스트리에 등록할 때 동일 태그를 상속시키면 최소 비용으로 "모델 → 데이터셋 스냅샷" 역추적이 성립한다. 반면 레코드 단위 리니지는 학습/추론 파이프라인이 샘플 ID를 엔드투엔드로 운반하도록 스키마를 맞춰야 하고, 추론 로그 저장 비용도 적지 않으므로 규제·A/B 분석·라벨링 품질 감사 등 분명한 목적이 있을 때만 선별 적용하는 편이 낫다. 또한 SageMaker 학습 Job 컨테이너 안에서 DVC가 리모트에 접근하려면 IAM Role에 해당 S3 버킷 권한을 부여하고 `dvc pull`을 엔트리포인트에 포함시켜야 하는데, 이 과정에서 크레덴셜 체인·네트워크(VPC 엔드포인트) 구성이 함정이 되기 쉬워 초기 PoC 때부터 프라이빗 서브넷 기준으로 검증해두는 것을 권장한다. 마지막으로 MLflow Apps는 요금·리전 가용성이 일반 SageMaker와 별도로 관리되므로, 기존 셀프호스팅 MLflow에서 마이그레이션할 때는 모델 레지스트리 스키마 호환성과 아티팩트 스토리지 이관 전략을 먼저 확인해야 한다.