책임 있는 인공지능 구현을 위한 인간 전문가 육성 전략

주장책임 있는 인공지능(AI)을 성공적으로 구현하려면 AI 솔루션을 검증할 수 있는 인간 전문가를 육성해야 합니다. 단순히 기술적 안전성을 확보하는 단계를 넘어 AI가 현장에서 미치는 경제적·사회적 영향을 관리하는 것이 핵심입니다.

팩트매사추세츠 공과대학교(MIT) 슬론 매니지먼트 리뷰와 보스턴 컨설팅 그룹이 공동으로 실시한 설문조사 결과 응답자의 84%가 AI 검증을 위한 인간 전문가 육성의 필요성에 동의했습니다. 이는 책임 있는 AI가 단순한 점검 항목을 넘어 조직의 핵심 역량임을 의미합니다.

팩트전문가들은 검증을 단순히 결과물을 확인하는 과정이 아니라 AI 생애 주기 전반에 걸쳐 인간의 판단을 적용하는 작업으로 정의합니다. 여기에는 워크플로우 감사, 임계값 설정, AI 의존 여부 결정 및 기계가 수행할 수 없는 책임 이행이 포함됩니다.

주장AI는 복잡한 현실 세계에서 작동하므로 데이터만으로는 포착할 수 없는 맥락을 해석할 인간 전문가가 반드시 필요합니다. 기술적 해결책만으로는 공공 가치와의 불일치나 취약 계층에 대한 피해와 같은 사회적 위험을 완전히 해결할 수 없습니다.

팩트포휴머니티의 라이언 캐리어와 튀브(TÜV) AI 랩의 프란치스카 바인다우어는 AI가 의도대로 작동하는지 확인하고 실패를 감지하기 위해 인간의 맥락적 해석이 필수적이라고 강조했습니다. 데이터화할 수 없는 상황적 맥락은 인간만이 판단할 수 있는 영역입니다.

교차검증AI 모델이 정교해져도 특정 국가의 법적 문제나 문화적 민감성을 고려하는 것은 여전히 인간의 영역입니다. 위프로의 자이 가네쉬 박사는 AI가 내놓은 결과가 정확하더라도 특정 상황에서는 부적절할 수 있다는 점을 지적했습니다.

주장AI에 대한 의존도가 높아지면서 인간 전문가의 역량이 퇴화하는 현상은 조직에 실존적 위협이 됩니다. AI에게 검증을 전적으로 위임하면 조직 내 감사 역량이 약화되고 주니어 직원들이 독립적인 판단력을 기를 기회를 잃게 됩니다.

팩트오데세이아의 이도이아 살라자르는 도구가 발전해도 결과물의 공정성과 안전성을 보장하는 것은 인간의 책임이라고 강조했습니다. 인간이 AI를 비판적으로 검토할 수 있는 날카로운 판단력을 유지하는 것이 조직의 생존 전략입니다.

교차검증인간 검증이 중요하지만 모든 AI 결과물을 인간이 일일이 확인하는 것은 확장성 측면에서 한계가 있습니다. 따라서 조직은 인간의 전문성을 보완할 수 있는 효율적인 거버넌스 체계를 구축해야 합니다.

출처MIT 슬론 매니지먼트 리뷰의 2024년 책임 있는 AI 보고서 시리즈를 교차 검증했습니다.