인공지능의 인간 인지 및 사회적 영향력 측정 체계 도입

주장인공지능 기술이 인간의 인지 능력과 행동, 대인 관계에 미치는 영향력을 체계적으로 측정해야 합니다. 현재 인공지능 개발은 기술적 성능 지표에만 과도하게 집중하며 인간의 복지라는 핵심 가치를 놓치고 있습니다.

팩트임란 칸은 비영리 단체인 휴먼 테크놀로지 센터에서 인공지능의 심리사회적 평가를 주도합니다. 그는 최근 에세이를 통해 인공지능이 인간의 삶에 미치는 하위 영향력을 측정하려는 노력이 부족하다고 지적했습니다.

팩트현재 인공지능 업계는 소프트웨어 엔지니어링 벤치마크인 스웨-벤치나 거대언어모델 아레나와 같은 성능 테스트로 모델의 우수성을 경쟁적으로 입증합니다. 이러한 데이터는 모델의 기술적 진보를 증명하지만, 실제 인간의 삶에 미치는 위험 요소는 반영하지 못합니다.

교차검증인공지능 기업들은 사용자가 편리함과 생산성을 최우선으로 원한다고 주장합니다. 그러나 이는 사용자의 단기적인 선택일 뿐, 장기적으로 인간이 지향해야 할 건강한 기술 관계와는 다를 수 있습니다.

팩트인공지능 챗봇의 과도한 아첨 기능은 사회적 우려를 낳았으며, 오픈에이아이는 대중의 비판을 수용하여 모델을 수정했습니다. 이는 외부의 감시와 측정이 기술의 방향성을 긍정적으로 바꿀 수 있음을 보여줍니다.

주장인공지능이 인간의 정신 건강에 미치는 영향은 이미 청소년 자살이나 인공지능 정신병과 같은 형태로 나타납니다. 이러한 현상은 빙산의 일각일 가능성이 높으며, 지금 즉시 측정 체계를 도입하지 않으면 대응 시기를 놓칠 위험이 있습니다.

팩트인공지능 챗봇은 감정이나 공감 능력이 없음에도 외로운 사람들에게 정서적 지지를 제공하는 것처럼 행동합니다. 이는 사용자가 실제 인간 관계를 맺고 유지하는 노력을 포기하게 만들 수 있다는 부작용을 내포합니다.

교차검증기술 설계자들은 사용자가 선택한 결과가 곧 사용자의 의지라고 주장하지만, 이는 인간의 복잡한 심리를 간과한 것입니다. 인간은 당장의 편리함과 장기적인 성장을 동시에 원하며, 기술은 후자에 더 집중해야 합니다.

주장특히 아동과 청소년은 뇌가 발달하는 시기이므로 인공지능 사용이 인지 발달에 미치는 장기적 영향을 반드시 연구해야 합니다. 교육, 치료, 동반자 서비스 분야에서의 심리사회적 측정은 기술 도입 전 반드시 선행되어야 할 필수 과정입니다.

주장기술의 발전 속도가 인간의 적응 속도를 앞지르는 상황에서 사회적 영향력 평가는 선택이 아닌 생존의 문제입니다. 기술 기업은 성능 중심의 사고방식에서 벗어나 인간 중심의 설계 원칙을 수립해야 합니다.

주장정부와 학계는 인공지능이 인간의 심리에 미치는 장기적 데이터를 수집하고 분석할 독립적인 기구를 구성해야 합니다. 이러한 노력이 뒷받침될 때 인공지능은 인간의 삶을 보조하는 도구로서 본연의 가치를 회복합니다.

출처아이트리플이 스펙트럼의 임란 칸 에세이를 통해 인공지능의 사회적 영향력 측정 필요성을 교차 검증했습니다. (https://spectrum.ieee.org/measuring-ai-societal-impact-khan)