아마존 세이지메이커 AI의 MLflow 3.10 버전 지원 도입

주장아마존 세이지메이커 AI는 MLflow 3.10 버전을 도입하여 기업용 생성형 인공지능 개발 환경을 고도화했습니다. 이번 업데이트는 복잡한 인공지능 워크플로우의 관측 가능성을 높이고 개발 생산성을 향상하는 데 목적이 있습니다.

팩트MLflow 3.10 버전은 생성형 인공지능 개발을 위해 추적 기능과 대규모 언어 모델 프레임워크 통합을 개선했습니다. 특히 다중 턴 워크플로우에 대한 추적 기능이 강화되어 복잡한 대화형 인공지능 모델 개발에 유리합니다.

팩트새로운 평가용 응용 프로그램 인터페이스인 mlflow.genai.evaluation()이 추가되어 생성형 인공지능의 품질을 체계적으로 측정합니다. 관련성, 충실도, 정확성, 안전성 등 핵심 지표를 내장하여 개발부터 운영 단계까지 품질 관리를 지원합니다.

팩트관측 가능성 향상을 위해 성능 대시보드를 기본으로 제공합니다. 지연 시간 분포, 요청 횟수, 품질 점수, 토큰 사용량 등을 별도의 설정 없이 한눈에 확인할 수 있어 운영 비용 파악이 용이합니다.

교차검증기존 MLflow 추적 서버 사용자는 별도의 마이그레이션 과정을 거쳐야 합니다. 아마존 웹 서비스에서 제공하는 서버리스 마이그레이션 가이드를 따라야 기존 데이터를 3.10 버전으로 이전할 수 있습니다.

팩트세이지메이커 스튜디오 콘솔, 아마존 웹 서비스 명령줄 인터페이스, 또는 응용 프로그램 인터페이스를 통해 MLflow 앱을 생성합니다. 기본 설정만으로도 MLflow 3.10 환경이 자동으로 프로비저닝되어 즉시 사용이 가능합니다.

팩트사용자는 pip install mlflow==3.10.1 sagemaker-mlflow==0.3.0 명령어를 통해 필요한 패키지를 설치해야 합니다. 이후 세이지메이커 MLflow 앱의 아마존 리소스 이름인 ARN을 설정하여 실험 추적을 시작합니다.

주장이번 업데이트는 생성형 인공지능의 거버넌스와 확장성을 확보하려는 기업에 중요한 도구가 됩니다. MLflow 워크스페이스를 통해 팀과 프로젝트별로 아티팩트를 구조화하여 관리할 수 있기 때문입니다.

교차검증세이지메이커 AI 도메인 설정이 선행되어야 MLflow 앱을 생성할 수 있습니다. 아마존 웹 서비스 계정의 결제 설정과 아이덴티티 및 액세스 관리 역할, 에스쓰리 버킷 등 기본적인 클라우드 인프라 구성이 필수적입니다.

팩트MLflow 3.10은 세이지메이커 AI 서버리스 모델 커스터마이징 및 세이지메이커 유니파이드 스튜디오에서도 지원합니다. 이를 통해 개발자는 다양한 워크플로우 환경에서 유연하게 인공지능 모델을 개발합니다.

출처아마존 웹 서비스 공식 블로그의 생성형 인공지능 개발 간소화 관련 게시물을 교차 검증했습니다.