굿파이어, 거대언어모델 디버깅 도구 실리코 출시

주장굿파이어는 인공지능 모델 개발 과정을 불확실한 영역에서 정밀한 공학의 영역으로 전환합니다. 현재 거대언어모델은 작동 원리가 불투명하여 오류 수정과 행동 제어에 어려움을 겪고 있습니다.

팩트샌프란시스코 소재 스타트업 굿파이어는 인공지능 모델 내부를 분석하고 매개변수를 조정하는 도구인 실리코를 출시했습니다. 연구자와 엔지니어는 이 도구로 모델의 학습 과정을 직접 확인합니다.

팩트에릭 호 굿파이어 최고경영자는 규모와 컴퓨팅 자원 확대에만 집중하는 현재의 인공지능 연구 방식을 비판했습니다. 그는 모델의 내부 구조를 이해하고 제어하는 방식이 인공일반지능으로 나아가는 핵심 경로라고 강조합니다.

팩트굿파이어는 기계적 해석 가능성 기술을 활용하여 모델 내부의 뉴런과 경로를 매핑합니다. 이 기술은 미국 매사추세츠 공과대학교가 발행하는 테크놀로지 리뷰가 선정한 2026년 10대 혁신 기술에 포함되었습니다.

팩트실리코는 에이전트를 활용하여 복잡한 해석 작업을 자동화합니다. 기업은 전문 연구자를 고용하지 않고도 모델의 오류를 수정합니다.

팩트연구진은 오픈소스 모델인 큐웬 3 내부에서 특정 도덕적 딜레마와 관련된 뉴런을 발견했습니다. 해당 뉴런을 활성화하자 모델의 답변 방식이 도덕적 딜레마를 다루는 형태로 변화했습니다.

팩트실리코 사용자는 모델이 왜곡된 답변을 내놓을 때 원인이 되는 뉴런을 찾아 억제하거나 강화합니다. 기업의 비윤리적 행동 공개 여부를 묻는 질문에서 투명성 관련 뉴런을 강화하자 답변이 긍정적으로 수정되었습니다.

팩트굿파이어는 이 도구로 수학적 오류를 일으키는 학습 데이터를 필터링하거나 특정 뉴런의 영향을 차단합니다. 이는 모델이 학습 데이터의 맥락을 잘못 해석하여 발생하는 논리적 오류를 방지합니다.

교차검증레너드 베레스카 암스테르담 대학 연구원은 실리코의 유용성을 인정하면서도 회의적인 시각을 보였습니다. 그는 이 기술이 연금술에 정밀함을 더하는 수준이며 공학이라 부르기에는 원칙적 근거가 부족하다고 지적했습니다.

출처굿파이어의 실리코 출시와 관련한 내용은 MIT 테크놀로지 리뷰 보도를 통해 교차 검증했습니다.