AI 반도체

중국 연구진이 어센드 NPU 기반 슈퍼팟 환경에서 딥시크-V4 모델의 학습 효율을 3배 가까이 끌어올리는 최적화 프레임워크를 개발했습니다. 이를 통해 복잡한 운영 최적화 문제 해결 능력을 갖춘 특화 모델을 구축하고 기존 모델 대비 뛰어난 성능을 입증했습니다.

연구진은 단일 데스크톱 GPU에서 실시간으로 구동 가능한 인터랙티브 월드 모델 ABot-World-0을 공개했습니다. 이 모델은 AAA 게임과 시뮬레이션 데이터를 학습해 고화질의 상호작용 환경을 구현합니다.

인공지능 기업 앤스로픽이 AMD로부터 50억 달러 규모의 그래픽 처리 장치를 공급받습니다. 양사는 클로드 모델의 연산 성능을 높이기 위해 다년간 협력할 계획입니다. 이번 계약으로 AMD는 인공지능 하드웨어 시장 내 입지를 강화합니다.

글로벌 연구진이 고정된 GPU 자원 내에서 200만 토큰 이상의 초장문 맥락을 처리하는 강화학습 기술 '롱스트로(LongStraw)'를 개발했습니다. 이 기술은 메모리 효율을 극대화하여 인공지능 에이전트의 장기 기억과 추론 능력을 획기적으로 개선합니다.

새로운 비디오 생성 모델 'Vidu S1'이 실시간 상호작용과 음성 제어 기능을 선보였습니다. 이 모델은 일반 소비자용 그래픽 처리 장치(GPU)에서 540p 해상도의 비디오를 초당 최대 42프레임(FPS)으로 생성합니다. 사용자 맞춤형 이미지와 음성 톤을 지원하며 무한 길이의 비디오를 흐림이나 왜곡 없이 생성한다고 연구진은 밝혔습니다.

데이터브릭스가 대규모 GPU 클러스터 운영 과정에서 발생하는 하드웨어 장애를 체계적으로 관리하는 방안을 제시합니다. 장애 유형별 대응과 실시간 모니터링 시스템을 통해 인공지능 학습의 효율성을 높입니다.

메타가 인공지능 학습 속도 저하의 원인인 스토리지 병목 현상을 해결하기 위해 아키텍처를 전면 개편했습니다. 데이터 접근 방식을 최적화하고 전력 효율을 높여 GPU 가동률을 극대화하는 전략을 도입했습니다.

데이터브릭스가 서버리스 GPU 컴퓨팅을 활용해 영상 데이터를 자동으로 분석하고 검색 가능한 정보로 전환하는 기술을 공개했습니다. 이 기술은 영상 처리 과정을 자동화하여 분석 효율을 높이고 기업의 의사결정을 지원합니다.

아마존 세이지메이커가 엔비디아 블랙웰 GPU를 탑재한 P6-B200 인스턴스를 통해 대규모 인공지능 모델 학습 효율을 높입니다. 블랙웰의 고대역폭 메모리와 저정밀도 연산 가속 기술을 결합하여 학습 처리량을 극대화합니다.

파이토치에서 nn.Linear 모듈은 최적화된 커널을 통해 효율적으로 연산을 수행합니다. 특히 torch.compile을 활용한 MLP 구조의 연산 융합은 CPU 오버헤드를 줄여 GPU 효율을 극대화합니다.