엔비디아의 합성 데이터 활용 다국어 OCR 모델 개발

주장고품질 광학 문자 인식(OCR) 모델을 구축하려면 대규모 주석 데이터가 필요하지만, 기존의 수동 주석 방식은 비용과 시간 측면에서 대규모 모델 학습에 한계가 있습니다. 엔비디아는 이러한 데이터 부족 문제를 해결하고자 합성 데이터 생성 방식을 도입하여 모델 성능을 개선했습니다.

팩트네모트론 OCR v2는 6개 언어에 걸쳐 1200만 장의 합성 학습 이미지를 사용했습니다. 이를 통해 일본어, 한국어, 러시아어, 중국어 등 비영어권 언어의 정규화 편집 거리 점수를 기존 0.56~0.92에서 0.035~0.069 수준으로 크게 개선했습니다.

팩트해당 모델은 공유 탐지 백본을 사용하여 연산 중복을 제거했습니다. 그 결과 단일 A100 그래픽 처리 장치(GPU) 환경에서 초당 34.7페이지를 처리하는 속도를 보입니다.

교차검증웹 크롤링 방식은 데이터 양은 방대하지만 텍스트 노이즈가 많고 신뢰도가 낮다는 단점이 있습니다. 합성 데이터는 정확한 주석을 제공하지만, 실제 문서의 복잡한 레이아웃과 스타일을 얼마나 현실적으로 구현하는지가 모델 성능의 핵심 과제입니다.

팩트네모트론 OCR v1은 855개의 문자만 지원하여 다국어 처리에 한계가 있었으나, v2는 1만4244개의 문자를 지원하도록 확장되었습니다. 이는 모델이 다양한 언어의 시각적 형태를 학습했음을 의미합니다.

팩트합성 데이터 파이프라인은 엠오스카(mOSCAR) 웹 코퍼스를 소스 텍스트로 활용하여 163개 언어의 현실적인 어휘 분포를 반영했습니다. 또한 구글 폰트와 노토 패밀리 등 오픈 소스 폰트 풀을 활용하여 다양한 서체 스타일을 학습 데이터에 포함했습니다.

팩트이번 모델은 단어 단위가 아닌 라인 단위 인식 방식을 채택했습니다. 이는 공백 사용이 불규칙한 한국어나 공백이 없는 중국어, 일본어 처리에 최적화되어 별도의 단어 분절 단계 없이도 자연스러운 텍스트 인식을 가능하게 합니다.

팩트합성 파이프라인은 단어, 라인, 문단 수준의 픽셀 단위 주석을 생성하며 문서 구조 이해를 위한 관계 그래프를 포함합니다. 이를 통해 다단 레이아웃, 표, 세로 쓰기 등 복잡한 문서 구조를 정확하게 파악합니다.

주장OCR 모델의 성능 병목 현상은 아키텍처가 아닌 데이터의 양과 질에 있습니다. 충분한 양의 학습 데이터가 뒷받침된다면 범용적인 합성 데이터 파이프라인을 통해 어떤 언어로든 고성능 OCR 모델을 확장할 수 있습니다.

출처엔비디아의 공식 기술 블로그 및 허깅페이스 저장소를 통해 해당 내용을 교차 검증했습니다.