엔비디아 하드웨어 기반 헤르메스 에이전트와 큐원 3.6 모델 공개

주장헤르메스 에이전트는 로컬 환경에서 스스로 학습하고 업무를 수행하는 차세대 인공지능 에이전트 프레임워크입니다. 이 기술은 사용자의 복잡한 작업을 자동화하며 시간이 지남에 따라 스스로 기술을 개선하도록 설계되었습니다.

팩트헤르메스 에이전트는 출시 3개월 만에 깃허브에서 14만 개 이상의 별을 획득했습니다. 오픈라우터 데이터에 따르면 해당 프레임워크는 지난주 기준으로 세계에서 가장 많이 사용되는 에이전트 도구로 기록되었습니다.

팩트알리바바가 개발한 큐원 3.6 모델 시리즈는 로컬 에이전트 구동에 최적화된 고성능 언어 모델입니다. 특히 27B 및 35B 파라미터 모델은 이전 세대의 120B 및 400B 모델보다 뛰어난 성능을 보입니다.

팩트큐원 3.6 35B 모델은 약 20GB의 메모리만으로 구동됩니다. 이는 70GB 이상의 메모리가 필요한 120B 모델을 능가하는 성능을 구현하며 로컬 환경에서 고성능 인공지능을 운영하려는 사용자에게 이점을 제공합니다.

팩트헤르메스 에이전트는 스스로 기술을 작성하고 정제하는 자가 진화 기능을 갖추고 있습니다. 또한 하위 에이전트를 격리된 작업자로 관리하여 컨텍스트 창을 효율적으로 사용하고 오류를 최소화합니다.

주장헤르메스 에이전트는 단순한 래퍼를 넘어 능동적인 오케스트레이션 계층으로 작동합니다. 이는 작업 단위의 실행을 넘어 지속적이고 자율적인 에이전트 운영을 가능하게 합니다.

팩트엔비디아 디지엑스 스파크는 128GB의 통합 메모리와 1페타플롭의 인공지능 성능을 제공하는 소형 워크스테이션입니다. 이 장비는 120B 파라미터 규모의 모델을 하루 종일 안정적으로 구동하도록 설계되었습니다.

교차검증로컬 인공지능 에이전트는 클라우드 기반 모델과 달리 하드웨어 성능에 따라 사용자 경험이 좌우됩니다. 엔비디아 알티엑스 그래픽 처리 장치와 같은 고성능 하드웨어가 뒷받침되지 않으면 복잡한 다단계 작업 수행 시 지연 시간이 발생할 수 있습니다.

교차검증헤르메스 에이전트는 누스 리서치에서 검증된 도구와 플러그인만을 사용합니다. 이는 다른 프레임워크에서 빈번하게 발생하는 디버깅 문제를 줄여주지만, 사용자가 직접 커스텀 도구를 추가할 때의 유연성은 제한될 수 있습니다.

출처엔비디아 공식 블로그 및 관련 기술 문서를 통해 위 내용을 교차 검증했습니다. (https://blogs.nvidia.com/blog/rtx-ai-garage-hermes-agent-dgx-spark/)