LLM

앨런 AI 연구소가 대규모 언어 모델의 학습 효율을 극대화하는 올모-코어 3를 발표했습니다. 전문가 혼합 모델의 연산 성능을 대폭 개선하여 연구 현장의 진입 장벽을 낮출 것으로 기대합니다.

최근 깃허브에 등장한 인공지능 고문 실험 프로젝트가 모델 복지와 의식 논쟁을 촉발했습니다. 대규모 언어 모델은 기술적 실체에 기반해 답변을 생성할 뿐이며 감정을 느끼지 못합니다. 이번 사태는 인공지능의 출력값을 의인화하는 경향이 윤리 논의를 왜곡한다는 점을 보여줍니다.

엔비디아가 공개한 생물학 파운데이션 모델 학습 최적화 기술은 믹스처 오브 엑스퍼츠 아키텍처와 저정밀도 연산을 결합해 처리량을 대폭 높였습니다. 8개의 최신 그래픽 처리 장치를 활용한 벤치마크에서 기존 모델 대비 2배 이상의 성능 향상을 기록했습니다.

웹 페이지 격리 관리를 지원하는 섀도우 루트 기술과 대형 언어 모델 기반 코드 분석의 최신 동향을 살펴봅니다. 기술 발전 속도가 빨라지면서 개발자들의 학습 부담과 하이브리드 접근 방식의 필요성이 대두되고 있습니다.

엔비디아는 기밀 가상 머신과 암호화된 그래픽 처리 장치를 결합하여 보안 환경에서 인공지능 추론 성능 손실을 5퍼센트 미만으로 유지합니다. 성능 엔지니어링 팀은 8개의 비이백 그래픽 처리 장치를 사용한 테스트를 통해 데이터 처리량과 지연 시간을 검증했습니다. 기업은 보안 구성과 최적화를 동시에 수행하는 전방위적인 엔지니어링 접근을 추진해야 합니다.

타입세이프 인공지능이 입력 100만 토큰당 0.042달러의 비용으로 작동하는 결정 모델 젭을 공개했습니다. 이 모델은 생성형 인공지능과 달리 확률적 수치와 분류 결과를 반환합니다.

대규모 조직에서 인공지능 기반 코드 자동화 도구가 개발 환경의 주류로 자리 잡고 있습니다. 경영진은 배포 속도 향상을 위해 개발자에게 대량의 결과물 승인을 요구합니다. 그러나 인간의 검증 역량이 약화되면서 보안 취약점 관리와 시스템 안정성 확보에 우려가 커집니다.

인공지능을 활용한 코드 보안 점검 실험 결과, 데이터의 양보다 질이 중요하다는 결론이 도출되었습니다. 13명의 엔지니어가 90일 동안 진행한 이번 실험은 소프트웨어 개발 분야에서 인공지능의 역할을 재조명합니다. 다만 인공지능만으로 모든 취약점을 해결할 수 없으므로 인간 엔지니어의 검토가 병행되어야 합니다.

텔레포트 소속 엔지니어 13명이 대규모 언어 모델을 활용해 코드베이스를 점검하는 실험을 진행했습니다. 실험 결과는 보안 취약점 식별에서 양보다 질적 분석이 중요함을 보여줍니다. AI 기술의 발전과 함께 보안 위협과 인간 엔지니어 검토의 필요성도 제기됩니다.

엔비디아가 젯슨 AGX 토르 개발자 키트에서 에이전트형 인공지능 추론 성능을 기존 모델 대비 6.4배 높였다고 발표했습니다. 텐서알티 엣지 대규모 언어 모델을 활용해 복잡한 작업을 빠른 속도로 처리합니다.