AI 연구

알리바바 Qwen 연구팀이 강화학습 기반의 새로운 추론 알고리즘인 FIPO를 공개했습니다. 이 알고리즘은 미래 행동을 예측해 보상을 차등 지급함으로써 모델의 추론 체인 길이를 획기적으로 늘렸습니다.

구글이 4가지 크기의 Gemma 4 모델을 공개하며 오픈 모델 시장 경쟁에 나섰습니다. 모델의 성공은 벤치마크 점수보다 산업 현장에서의 활용성과 도구 지원에 달려 있습니다. 오픈 모델의 생태계 변화와 기술적 과제를 분석합니다.

인공지능 반도체 제조사들이 MLPerf 6.0 벤치마크 결과를 공개했습니다. 각 기업은 서로 다른 모델과 시스템 구성을 활용해 자사 기술의 강점을 증명했습니다.

팔콘 퍼셉션은 이미지와 텍스트를 단일 시퀀스로 처리하여 시각 인식 성능을 극대화한 모델입니다. 연구진은 기존 모델의 한계를 극복하기 위해 새로운 벤치마크와 학습 방식을 도입했습니다.

생성형 AI가 개별 업무의 속도를 높이는 데는 기여하지만, 기업 전체의 생산성 향상으로 직결되지는 않습니다. 조직 내 복잡한 프로세스와 지식 노동의 특수성이 AI 도입 효과를 상쇄하기 때문입니다.

최신 멀티모달 AI 모델이 시각 정보 없이도 이미지를 묘사하고 진단하는 '신기루 효과'가 발견되었습니다. 기존 벤치마크가 모델의 실제 시각적 이해도를 측정하지 못한다는 지적이 제기됩니다.

캐나다 인공지능 기업 코히어가 새로운 자동 음성 인식 모델 '트랜스크라이브'를 발표했습니다. 이 모델은 주요 벤치마크에서 업계 최고 수준의 성능을 기록하며 기업용 음성 인터페이스 시장 공략을 예고했습니다.

스위스 취리히 연방 공과대학교 연구진이 코딩 에이전트의 작업 성공률에 'AGENTS.md' 등 컨텍스트 파일이 미치는 영향을 분석했습니다. LLM이 생성한 컨텍스트 파일은 모델 성능을 저하하고 추론 비용을 20% 이상 증가시키는 것으로 나타났습니다. 개발자가 직접 작성한 파일도 성능 향상폭이 미미해 사용 시 최소한의 요구사항만 담아야 한다고 했습니다.

LLM은 레이어가 깊어질수록 초반 레이어의 정보가 희석되는 구조적 결함을 안고 있습니다. 중국 AI 스타트업 Moonshot AI의 Kimi 팀이 이 문제를 소프트맥스 어텐션으로 대체하는 일명 어텐션 잔차(Attention Residuals) 기술로 해결했습니다. 코딩, 수학, 추론 등 모든 벤치마크에서 기준선을 상회했습니다.

LLM은 겉보기에 타당한 논리적 근거(Chain-of-Thought)를 제시하지만, 실제 의사결정 과정에서 내부적 편향을 숨길 수 있습니다. 채용·대출 승인·대학 입학 등에서 성별·인종뿐 아니라 언어 능력이나 문체에 따른 보이지 않는 편향이 확인되었습니다.