아르시 AI, 오픈 추론 모델 ‘트리니티 라지 씽킹’ 출시

주장아르시 AI는 에이전트 작업에서 클로드 오퍼스와 경쟁할 수 있는 오픈 소스 추론 모델인 트리니티 라지 씽킹을 출시했습니다. 이 모델은 아파치 2.0 라이선스를 채택하여 누구나 자유롭게 활용할 수 있습니다.

팩트트리니티 라지 씽킹은 4,000억 개의 파라미터를 보유하고 있으며 혼합 전문가 아키텍처를 적용했습니다. 모델은 토큰당 130억 개의 파라미터만 활성화하여 규모 대비 높은 추론 효율을 보입니다.

팩트모델은 256개의 전문가 네트워크로 구성되며 매 단계마다 4개의 전문가만 작동합니다. 이러한 구조는 연산 자원을 절약하면서도 전체 모델의 용량을 유지하는 핵심 기술입니다.

팩트아르시 AI는 엔비디아 B300 그래픽 처리 장치 2,048개를 사용하여 33일 동안 모델을 학습시켰습니다. 이 과정에 2,000만 달러가 소요되었으며 이는 회사가 유치한 전체 벤처 투자금의 절반에 해당합니다.

팩트학습 과정에서 전문가 네트워크가 붕괴하는 문제를 해결하기 위해 에스엠이비유라는 새로운 균형 조정 방식을 도입했습니다. 이 방식은 전문가 간 편차를 비례적으로 보정하여 학습 안정성을 높였습니다.

팩트전체 학습 데이터 17조 토큰 중 8조 토큰 이상은 합성 데이터로 구성되었습니다. 데이터 큐레이션은 다톨로지 AI가 담당했으며 웹 수집 데이터 대신 다른 인공지능 모델이 생성한 정보를 활용했습니다.

교차검증학습 데이터의 편향을 막기 위해 랜덤 순차 문서 버퍼라는 처리 방식을 적용했습니다. 특정 문서가 학습 단계를 독점하지 않도록 문서를 무작위로 섞어 데이터 분포의 변동성을 줄였습니다.

팩트트리니티 라지 씽킹은 512K 토큰의 긴 문맥 창을 지원하며 니들 인 어 헤이스택 테스트에서 0.976점을 기록했습니다. 로컬 어텐션과 글로벌 어텐션을 결합하여 연산 비용을 효율적으로 관리합니다.

교차검증에이전트 작업 벤치마크에서는 우수한 성적을 거두었으나 일반적인 추론 능력은 클로드 오퍼스에 비해 다소 뒤처집니다. 지피큐에이 다이아몬드와 엠엠엘유 프로 점수에서 클로드 오퍼스 4.6 버전보다 낮은 수치를 보였습니다.

팩트프리뷰 버전은 오픈라우터 플랫폼에서 두 달 동안 3조3700억 토큰을 처리하며 높은 사용량을 기록했습니다. 현재 정식 버전은 오픈클로 및 헤르메스 에이전트와 같은 에이전트 프레임워크와 호환됩니다.

출처더 디코더의 보도를 통해 아르시 AI의 트리니티 라지 씽킹 출시 배경과 기술적 세부 사항을 교차 검증했습니다.