KNOWLEDGE
인공지능 시장 동향
1. AI, 의사는 어떻게 생겼어?
JAMA Open Network에 발표된 연구에 따르면, 5개의 유명 AI 텍스트-이미지 플랫폼에 의사의 이미지를 생성하도록 요청했을 때 백인 남성이 더 자주 등장하는 걸로 나타났다. 해당 연구에서는 ‘미국 의사의 얼굴’, ‘미국 의사의 얼굴’, ‘미국 의사의 사진’, ‘미국 의사의 사진’이라는 프롬프트에 따라 50개의 이미지를 생성하도록 요청했다. 그 결과, 플랫폼들은 압도적으로 백인 남성의 이미지를 생성했으며, 라틴계 의사의 이미지를 생성하지 않은 플랫폼은 3개, 아시아 의사의 이미지를 생성하지 않은 플랫폼은 2개, 여성 의사의 이미지를 생성한 플랫폼은 한 개도 없었다고 한다. 해당 연구에서는 AI가 의료 분야에 적용되면 인종, 민족과 관련된 부분이 크게 부각 될 텐데, 이런 문제를 조속히 해야 한다고 밝혔다.
2. AI 모델 학습, AI가 생성한 콘텐츠에 의존하게 되면 AI가 무너질 수도 있다.
Nature 저널에 발표된 ‘AI models collapse when trained on recursively generated data’라는 연구는 AI가 만든 데이터를 다시 AI 모델이 학습하는 과정이 되풀이되면 AI 모델이 ‘붕괴’를 일으켜 오류를 일으킬 수도 있다는 연구 결과가 제시됐다. 연구팀은 AI 언어 모델이 붕괴를 겪는 과정을 재현했고, 수학적 모델 등을 근거로 AI 모델이 붕괴하는 이유를 원본 데이터의 기본적인 특성이 사라지며 퇴행적 과정을 겪는 것이라고 설명했다. 나아가 연구팀은 AI 모델을 학습시킬 때 AI가 생성한 데이터를 필터링하는 방안도 고려해야 할 뿐만 아니라 인간이 생성한 데이터의 가치가 점점 높아질 것이라고 보았다.
글‧사진 / 김도현
