구글, 제미나이 API에 '플렉스'·'우선순위' 계층 도입

주장구글은 제미나이(Gemini) API에 '플렉스(Flex)'와 '우선순위(Priority)'라는 두 가지 새로운 서비스 계층을 도입했습니다. 개발자는 이 통합 인터페이스로 인공지능(AI) 워크로드의 비용과 신뢰성을 효율적으로 제어합니다.

주장이번 계층 도입은 AI가 단순 챗봇을 넘어 복잡한 자율 에이전트로 진화하는 과정에서 발생하는 다양한 워크로드 요구사항을 충족하는 전략입니다. 구글은 개발자에게 작업 성격에 맞는 최적의 환경을 제공하고자 합니다.

팩트플렉스 계층은 표준 API보다 50% 저렴한 비용으로 이용하는 비용 최적화 모델입니다. 이 계층은 지연 시간에 민감하지 않은 대규모 데이터 처리나 백그라운드 작업에 적합합니다.

팩트플렉스 계층은 기존 배치 API와 다르게 동기식 인터페이스를 지원합니다. 개발자는 별도의 파일 관리나 작업 완료 확인 과정 없이 기존 엔드포인트를 그대로 사용합니다.

교차검증플렉스 계층은 비용 절감 효과가 크지만, 표준 계층보다 신뢰성이 낮고 응답 지연 시간이 발생할 수 있다는 한계가 있습니다. 따라서 실시간성이 중요한 서비스보다는 데이터 보강이나 연구 시뮬레이션 같은 작업에 권장합니다.

팩트우선순위 계층은 플랫폼 사용량이 급증하는 상황에서도 가장 높은 수준의 신뢰성을 제공하는 프리미엄 서비스입니다. 이 계층은 실시간 고객 지원 봇이나 라이브 콘텐츠 조정 파이프라인처럼 즉각적인 응답이 필수적인 애플리케이션에 최적화되어 있습니다.

팩트우선순위 계층의 트래픽이 할당량을 초과하면 요청은 실패하지 않고 자동으로 표준 계층으로 전환하여 처리합니다. 이를 통해 서비스 중단을 방지하고 사업 연속성을 유지합니다.

팩트개발자는 요청 시 서비스 계층 파라미터를 설정하여 플렉스 또는 우선순위 계층을 선택합니다. API 응답에는 어떤 계층이 요청을 처리했는지 명시하여 비용과 성능을 투명하게 파악합니다.

교차검증우선순위 계층은 티어 2 또는 티어 3 유료 프로젝트 사용자에게만 제공하는 기능입니다. 모든 사용자가 즉시 접근할 수 있는 것은 아니므로 프로젝트 규모에 따른 접근성 제한이 있습니다.

주장이번 업데이트는 개발자가 백그라운드 작업과 대화형 작업을 분리하여 관리해야 했던 기존의 복잡한 아키텍처 문제를 해결합니다. 단일 인터페이스 내에서 작업 성격에 맞는 최적의 계층을 선택함으로써 운영 효율성을 극대화합니다.

출처구글 공식 블로그(https://blog.google/innovation-and-ai/technology/developers-tools/introducing-flex-and-priority-inference/) 및 구글 제미나이 API 공식 문서를 교차 검증했습니다. 상세한 가격 체계와 코드 예제는 해당 공식 블로그와 개발자 가이드를 통해 확인합니다.