AI 산업, 컴퓨팅 자원 고갈로 서비스 중단 및 비용 급등

주장인공지능 산업이 컴퓨팅 자원의 한계점에 도달했습니다. 에이전트형 인공지능의 폭발적인 성장이 인프라 공급 속도를 추월하면서 서비스 중단과 제품 축소라는 위기를 맞이했습니다.

팩트오픈에이아이(OpenAI)는 코딩 및 기업용 제품의 자원을 확보하고자 영상 생성 앱인 소라(Sora) 서비스를 종료합니다. 소라의 웹과 앱 버전은 4월 26일에, 응용 프로그램 인터페이스(API)는 9월에 각각 운영을 중단합니다.

팩트오픈에이아이의 API 토큰 사용량은 지난해 10월 분당 60억 개에서 올해 3월 150억 개로 증가했습니다. 사라 프라이어 최고재무책임자는 자원 부족으로 인해 프로젝트 중단을 결정해야 하는 어려운 상황이라고 설명했습니다.

팩트앤스로픽(Anthropic)은 잦은 서비스 장애로 기업 고객 이탈을 경험하고 있습니다. 4월 8일 기준 90일간 클로드(Claude) API 가동 시간은 98.95%로, 일반적인 클라우드 서비스 표준인 99.99%에 미치지 못합니다.

팩트앤스로픽의 연간 매출액은 지난해 말 90억 달러에서 올해 2월 140억 달러, 4월에는 300억 달러를 돌파했습니다. 이러한 급성장이 인프라 부하를 가중하며 서비스 안정성을 저해합니다.

팩트오른 컴퓨트 가격 지수(Ornn Compute Price Index)에 따르면 엔비디아 블랙웰 칩의 시간당 사용료는 2개월 전 2.75달러에서 현재 4.08달러로 48% 상승했습니다. 그래픽 처리 장치(GPU) 가격 급등은 기업의 운영 비용 부담을 높입니다.

교차검증뱅크오브아메리카 분석가들은 인공지능 컴퓨팅 자원 수요가 최소 2029년까지 공급을 초과할 것으로 전망합니다. 이는 단기적인 부족을 넘어 장기적인 인프라 병목 현상이 지속될 가능성을 시사합니다.

팩트깃허브(GitHub)는 코파일럿 서비스 사용 제한을 강화했으며, 오픈에이아이는 코덱스(Codex) 과금 방식을 메시지 기반에서 토큰 기반으로 변경했습니다. 이는 자원 소비가 많은 에이전트형 작업을 효율적으로 관리하기 위한 조치입니다.

교차검증클라우드 제공업체 코어위브(Coreweave)는 2025년 말 가격을 20% 이상 인상하고 소규모 고객에게 3년 계약을 요구합니다. 하드웨어 조달 지연과 데이터 센터 구축 속도 저하가 주요 원인입니다.

팩트벌처(Vultr)의 최고경영자 제이제이 카드웰은 현재의 컴퓨팅 자원 위기가 지난 5년간 경험하지 못한 수준이라고 평가했습니다. 특히 2026년까지의 전력 공급이 이미 예약된 상태로, 물리적 인프라 확보가 가장 큰 병목 현상입니다.

출처더 디코더(The Decoder) 및 월스트리트저널(WSJ) 보도 자료를 교차 검증했습니다.