앤스로픽 클로드 API 대화 압축 기능 베타 공개
인공지능 기업 앤스로픽이 대화 내역을 압축하는 새로운 API 기능을 베타 버전으로 도입했습니다. 개발자는 해당 기능을 통해 토큰 사용량을 줄이고 응답 속도를 개선할 수 있습니다. 다만 압축 과정에서 일부 정보가 손실될 위험이 있어 세밀한 프롬프트 엔지니어링이 필요합니다.
팩트인공지능 기업 앤스로픽은 지난 2026년 9월 14일 플랫폼 릴리즈 노트를 통해 메시지 프로그래밍 인터페이스에 대화 압축 기능을 추가했습니다.
팩트개발자는 메시지 프로그래밍 인터페이스 요청 시 특정 베타 헤더를 설정하여 압축 기능을 사용할 수 있습니다.
팩트최상위 레벨의 압축 파라미터를 전송하면 이전 대화 내용을 요약한 서명된 압축 블록을 반환받습니다.
팩트이후 요청 시 전체 메시지 대신 해당 압축 블록을 가장 먼저 전달하는 방식으로 통신을 진행합니다.
주장대화 압축 기능의 도입은 긴 맥락을 다루는 대형 언어 모델의 토큰 비용을 줄이고 응답 속도를 개선하는 수단입니다.
주장개발자는 압축 시점을 직접 제어하여 인공지능 서비스 운영의 효율성을 높입니다.
교차검증주요 인공지능 플랫폼 역시 유사한 대화 관리 방식을 연구하고 있습니다.
교차검증압축 과정에서 요약된 정보의 손실이 발생할 수 있습니다.
교차검증최근 대화 턴이나 보존된 사고 과정을 유지하려면 세밀한 프롬프트 엔지니어링이 필요합니다.
출처빗겐하우스(https://docs.anthropic.com/en/release-notes/overview)의 문서를 교차 검증했습니다.
관련 콘텐츠
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
