앤스로픽의 메시지 스레드 기능 도입과 응답 속도 개선
인공지능 기업 앤스로픽이 대규모 대화 처리 효율성을 높이기 위해 메시지 스레드 기능을 공개 베타 형태로 출시했습니다. 이 기능은 첫 토큰 생성 시간을 단축하며 기업용 클라우드 환경에서 실시간 반응성을 향상시킵니다. 앤스로픽은 이를 통해 엔터프라이즈 시장에서의 경쟁력을 강화합니다.
주장앤스로픽은 메시지 스레드 기능을 도입해 대규모 대화 처리 효율성을 높입니다.
팩트앤스로픽은 지난 2026년 11월 3일 해당 기능을 공개 베타 형태로 출시했습니다.
팩트앤스로픽은 이번 업데이트를 거쳐 첫 토큰 생성 시간을 35퍼센트 단축했습니다.
팩트이 수치는 50만 토큰에서 100만 토큰 사이의 대규모 요청 처리 지연 시간을 줄입니다.
주장변경 사항만 전송하는 방식은 기존의 전체 대화 기록 재전송 방식을 대체합니다.
팩트메시지 스레드 기능은 클로드 플랫폼과 아마존웹서비스, 마이크로소프트 파운드리, 구글 클라우드를 통해 제공됩니다.
팩트이 기능은 대화 기록을 메모리에 암호화 상태로 유지하며 5분 동안 활동이 없으면 만료됩니다.
주장이 보안 설계는 연속적인 대화 흐름 관리를 돕습니다.
교차검증5분이라는 짧은 만료 시간은 장시간 대화가 중단되는 환경에서 제약으로 작용합니다.
교차검증토큰 사용량은 기존과 같으며 비용 절감이 아닌 응답 속도 개선에 집중합니다.
주장코딩 에이전트와 컴퓨터 사용 에이전트는 방대한 문서와 이미지 처리 과정에서 이점을 얻습니다.
주장대규모 맥락 창을 활용하는 인공지능 서비스 시장에서 응답 속도는 사용자 경험을 결정합니다.
출처더 디코더(https://the-decoder.com/anthropics-message-threads-cut-time-to-first-token-by-35-percent-for-long-conversations/) 및 앤스로픽 공식 문서의 보도를 교차 검증했습니다.
관련 콘텐츠
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
