AWS, 인공지능 하드웨어 최적화 위한 뉴런 에이전트 개발 도구 출시

주장아마존웹서비스(AWS)는 인공지능 모델의 규모가 커짐에 따라 하드웨어 성능을 극대화하기 위한 수동 커널 튜닝의 한계를 지적했습니다. 전문적인 칩 아키텍처 지식이 없어도 누구나 고성능 커널을 작성하고 최적화할 수 있는 환경을 제공하는 것이 이번 발표의 핵심 목표입니다.

팩트뉴런 에이전트 개발 기능은 작성, 디버깅, 프로파일링, 분석 등 5가지 전문 기술을 제공합니다. 개발자는 비주얼 스튜디오 코드(VS Code)나 키로(Kiro), 클로드(Claude)와 같은 통합 개발 환경(IDE)에서 해당 기술을 활용하여 트레이니엄(Trainium) 및 인퍼렌시아(Inferentia) 하드웨어에 최적화된 코드를 생성합니다.

팩트뉴런 커널 인터페이스(NKI) 작성 기술은 파이토치(PyTorch)나 넘파이(NumPy) 코드를 NKI 코드로 자동 변환합니다. 이 기술은 하드웨어 제약 사항인 128 파티션 차원이나 메모리 접근 패턴 등을 고려하여 효율적인 직접 메모리 접근(DMA) 크기 설정과 에스버프(SBUF) 재사용 가이드라인을 자동으로 적용합니다.

팩트디버깅 기술은 28개의 엔씨씨(NCC) 오류 코드를 체계적으로 분류하여 컴파일 및 실행 오류를 해결합니다. 중앙처리장치(CPU) 기반의 참조 값과 비교하여 수치적 정확성을 검증하며, 오류 발생 시 단계별로 수정 사항을 제안하는 자동화된 워크플로우를 지원합니다.

팩트프로파일링 및 분석 기술은 하드웨어 실행 프로파일을 캡처하고 성능 병목 현상을 식별합니다. 뉴런 실행 파일 형식(NEFF) 파일을 생성한 뒤 에스큐엘(SQL) 쿼리를 통해 성능 한계를 계산하고, 비효율적인 소스 코드 라인을 정확히 찾아내어 최적화를 돕습니다.

팩트뉴런 에이전트 개발 패키지에는 통합 진입점인 뉴런 NKI 에이전트가 포함되어 있습니다. 이 에이전트는 사용자의 요청에 따라 작성, 디버깅, 프로파일링 중 적절한 워크플로우를 스스로 선택하고 필요한 기술들을 결합하여 자율적으로 작업을 수행합니다.

주장이번 도구 도입은 인공지능 개발의 진입 장벽을 낮추는 중요한 전환점이 됩니다. 과거에는 소수의 하드웨어 전문가만이 가능했던 커널 최적화 작업을 에이전트가 대신 수행함으로써, 개발 팀은 아이디어 구현부터 하드웨어 최적화까지의 시간을 대폭 단축합니다.

교차검증이 도구는 트레이니엄 기반의 아마존 이씨투(EC2) 인스턴스에서만 실행 가능하다는 제약이 있습니다. 또한, 사용자는 인스턴스 가동 시간에 따른 비용을 지불해야 하므로 작업 완료 후 인스턴스를 종료하는 등의 비용 관리가 필수적입니다.

교차검증트레이니엄 2 인스턴스인 trn2.3xlarge를 활용한 실습 과정에서 사용자는 AWS 뉴런 딥러닝 아마존 머신 이미지(AMI)를 설치해야 합니다. 또한, 특정 리전에서만 지원되는 하드웨어 가용성을 사전에 확인해야 하며, 환경 설정 과정에서 뉴런-엘에스(neuron-ls) 명령어를 통해 장치 인식 여부를 반드시 검증해야 합니다.

출처아마존웹서비스 공식 블로그 및 뉴런 공식 문서를 교차 검증했습니다.