LLM

한국어 맥락을 반영한 웹 브라우징 에이전트 성능 평가 도구인 K-BrowseComp가 새롭게 발표되었습니다. 최신 거대언어모델(LLM)들이 한국어 기반의 복잡한 웹 탐색 작업에서 낮은 정확도를 보이며 기술적 한계를 드러냈습니다.

엔비디아가 물리 AI와 대규모 언어 모델을 결합한 새로운 모델들을 발표했습니다. 이번 공개는 단순한 모델 제공을 넘어 풀스택 전략을 통해 AI 에이전트 시장을 선점하려는 의도로 풀이됩니다.

매사추세츠 대학교 애머스트 캠퍼스 등 공동 연구진이 거대언어모델이 외부 검색 엔진 없이 직접 말뭉치를 탐색하는 기술을 선보였습니다. 기존 방식보다 검색 속도를 최대 7.6배 높였으며, 7개 오픈 도메인 질의응답 벤치마크에서 최고 성능을 기록했습니다.

기업이 거대언어모델을 실무에 효율적으로 활용하기 위해서는 에이전트 로직 도입이 필요합니다. 에이전트 로직은 AI의 작업 범위를 제어하여 비용 효율성과 성능을 동시에 확보합니다. IBM 리서치의 연구 결과를 바탕으로 에이전트 로직의 기술적 가치와 실무 적용 사례를 분석합니다.

아마존 웹 서비스(AWS)가 FSx for Lustre와 엔비디아 GPUDirect Storage를 결합하여 대규모 언어 모델(LLM) 로딩 속도를 획기적으로 개선합니다. 기존 CPU 경유 방식을 탈피해 GPU 메모리로 데이터를 직접 전송함으로써 추론 성능을 최적화합니다.

아마존 세이지메이커 AI는 인프라 지표와 모델 품질 지표를 통합 관리하여 거대언어모델 운영의 효율성을 높입니다. 사용자는 클라우드워치와 그라파나를 활용해 실시간으로 자원 사용량과 모델 성능을 모니터링할 수 있습니다.

아제르셀이 아마존 세이지메이커 AI를 활용해 아제르바이잔어 특화 언어모델 학습 효율을 대폭 개선했습니다. 맞춤형 토크나이저 도입과 분산 학습 기술 적용으로 처리량은 높이고 메모리 점유율은 낮췄습니다.

데이터브릭스가 모델 유닛이라는 추상화 개념을 도입하여 대규모 거대언어모델(LLM) 추론 환경의 효율성을 높였습니다. 이를 통해 GPU 비용을 80% 이상 절감하고 처리량을 3배 향상하는 성과를 거두었습니다.

버라이즌 커넥트가 120만 대 이상의 차량 데이터를 효율적으로 관리하기 위해 에이전트 AI를 도입했습니다. 거대언어모델과 통계 모델을 결합한 2단계 아키텍처로 10만 명의 사용자에게 실시간 통찰력을 제공합니다.

연구진이 단일 세포 RNA 시퀀싱 데이터를 분석하는 새로운 프레임워크인 시그니처를 개발했습니다. 이 기술은 인공지능 모델을 활용해 유전자의 기능적 중요도를 객관적으로 평가합니다. 질병 기전 규명과 신약 개발 분야에서 활용될 전망입니다.