아마존 세이지메이커 AI의 에이전트 기반 모델 최적화 도입

주장모든 기업이 동일한 파운데이션 모델을 사용하는 환경에서 진정한 경쟁력은 독자적인 데이터와 도메인 전문성을 결합한 모델 커스터마이징에서 나옵니다. 하지만 미세 조정 기술의 복잡성과 파편화된 응용 프로그램 인터페이스(API)로 인해 숙련된 팀조차 모델 최적화에 큰 어려움을 겪습니다.

팩트아마존 세이지메이커 AI는 개발자가 자연어로 사용 사례를 설명하면 데이터 준비, 기술 선택, 평가, 배포까지 전 과정을 안내하는 에이전트 경험을 제공합니다. 이 시스템은 거대언어모델을 평가자로 활용하는 지표인 LLM-as-a-Judge를 사용하여 품질을 측정하며, 생성된 코드는 완전히 수정 가능하여 기존 워크플로우에 통합할 수 있습니다.

팩트모델 커스터마이징을 위한 에이전트 스킬은 아마존 웹 서비스(AWS)와 데이터 과학 전문 지식이 인코딩된 모듈형 명령어 세트입니다. 이 스킬들은 세이지메이커 AI API, 하이퍼파라미터 구성, 모범 사례 등을 포함하며 각 단계마다 즉시 실행 가능한 노트북을 생성합니다.

팩트에이전트 기반 워크플로우는 총 9개의 모듈형 스킬로 구성되어 전체 커스터마이징 수명 주기를 관리합니다. 여기에는 사용 사례 정의, 계획 수립, 미세 조정 설정, 데이터셋 평가 및 변환, 모델 평가 및 배포 단계가 포함됩니다.

팩트현재 지원되는 미세 조정 기술은 지도 미세 조정, 직접 선호도 최적화, 검증 가능한 보상을 사용하는 강화 학습 등 세 가지입니다. 시스템은 사용자의 사례에 따라 가장 적합한 기술을 자동으로 추천하여 최적의 모델 성능을 이끌어냅니다.

팩트세이지메이커 AI 스튜디오의 주피터랩에는 아마존의 인공지능 소프트웨어 개발 에이전트인 키로가 기본 탑재되어 있습니다. 사용자는 키로 외에도 클로드 코드와 같이 에이전트 통신 프로토콜을 지원하는 다른 코딩 에이전트를 선택하여 작업할 수 있습니다.

교차검증에이전트 스킬은 사용자가 팀의 워크플로우나 거버넌스 표준에 맞춰 수정할 수 있도록 설계되었습니다. 이는 범용 코딩 보조 도구들이 가진 재현성 문제를 해결하고 조직 내 모범 사례를 표준화하는 데 기여합니다.

교차검증이 기능을 사용하기 위해서는 AWS 계정과 세이지메이커 AI 도메인, 그리고 적절한 아이덴티티 및 액세스 관리(IAM) 권한이 필수적입니다. 또한 세이지메이커 AI 배포 이미지 버전 4.1 이상이 설치된 주피터랩 환경이 요구되므로 사전 설정 확인이 필요합니다.

주장이번 업데이트는 모델 커스터마이징의 진입 장벽을 낮추어 기업들이 더 빠르게 도메인 특화 모델을 구축하도록 돕습니다. 이는 단순한 생산성 향상을 넘어 토큰 사용량을 줄이고 모델의 정확도를 높이는 실질적인 비즈니스 가치를 창출합니다.

출처아마존 웹 서비스 공식 블로그(https://aws.amazon.com/blogs/machine-learning/agent-guided-workflows-to-accelerate-model-customization-in-amazon-sagemaker-ai/)를 교차 검증했습니다.