EU AI 법 대응을 위한 AWS 세이지메이커 연산량 측정 도구 도입

주장유럽연합 인공지능 법은 기업이 거대언어모델을 파인튜닝할 때 발생하는 연산량인 플롭스를 추적하도록 요구합니다. 해당 수치는 기업이 단순 사용자에서 법적 책임을 지는 범용 인공지능 모델 제공자로 분류되는지 결정하는 핵심 기준이 됩니다.

팩트2025년 8월 2일부터 유럽연합 인공지능 법의 새로운 요구사항이 시행됩니다. 파인튜닝 과정에서 원래 모델 학습 연산량의 3분의 1 이상을 사용하면 모델의 행동이 크게 변한 것으로 간주하여 규제 대상에 포함됩니다.

팩트사전 학습 연산량을 알 수 없는 경우 기본 임계값은 3.3×10²² 플롭스로 설정됩니다. 사전 학습 연산량이 10²³ 플롭스 이상이라면 해당 수치의 30퍼센트가 규제 임계값이 됩니다.

교차검증규제 준수에 실패할 경우 기업은 최대 1500만 유로 또는 전 세계 연간 매출액의 3퍼센트 중 더 높은 금액을 벌금으로 부과받을 수 있습니다. 따라서 파인튜닝 시 연산량을 정확히 계산하고 기록하는 작업이 필수적입니다.

팩트아마존웹서비스는 세이지메이커 인공지능 환경에서 사용할 수 있는 오픈소스 도구인 파인튜닝 플롭스 미터를 공개했습니다. 이 도구는 학습 과정에서 실시간으로 연산량을 계산하고 감사 준비가 완료된 문서를 자동으로 생성합니다.

주장파인튜닝 방식에 따라 연산량 계산 공식이 복잡해지는 문제가 발생합니다. 로라와 같은 효율적 파인튜닝 기법을 사용할 때도 정확한 연산량을 추적해야 규제 위반을 방지할 수 있습니다.

팩트파인튜닝 플롭스 미터는 허깅페이스의 트레이너 콜백을 사용하여 그래픽 처리 장치 하드웨어 모니터링과 아키텍처 분석을 동시에 수행합니다. 학습이 완료되면 결과는 제이슨 형식으로 아마존 에스쓰리나 다이너모디비에 저장되어 감사 기록으로 활용됩니다.

팩트사용자는 설정 파일에 연산량 측정 기능을 활성화하는 코드 한 줄만 추가하면 됩니다. 이 도구는 전체 파인튜닝, 로라, 스펙트럼 등 다양한 학습 방식에 맞춘 연산량 추정을 지원합니다.

교차검증모델 제공자가 사전 학습 연산량을 공개하지 않는 경우가 많아 기업들이 스스로 임계값을 판단하기 어렵습니다. 아마존웹서비스의 도구는 이러한 정보 부족 상황에서도 기본 임계값을 적용하여 규제 준수 여부를 판단하도록 돕습니다.

출처아마존웹서비스 공식 블로그의 인공지능 법 대응 관련 게시물을 교차 검증했습니다.