2024-10-18
THINKFORBL 사보 기술 파트 39호
인공지능(AI) 시장 동향 ②
Thinkforbl
2024-10-18
THINKFORBL 사보 기술 파트 39호
인공지능(AI) 시장 동향 ②
Thinkforbl
KNOWLEDGE
인공지능 시장 동향
1. 유엔이 나섰다 “AI 위협, 기업은 해결 못 해… 세계가 뭉치자”
UN 차원에서 인공지능 관련 글로벌 표준을 만드는 작업이 추진 중이다. UN의 인공지능 고위급 자문기구(AIAB)는 ‘인류를 위한 인공지능 거버넌스’라는 제목의 보고서를 공개하고 7개 권고사항을 밝혔다. 해당 보고서에서 7개 권고사항은 다음과 같다. ⓵AI 국제 과학 패널 설립 ⓶AI 정책 회의 개최 ⓷AI 표준 마련 ⓸AI 역량 개발 네트워크 구축 ⓹글로벌 AI 기금 마련 ⓺AI 데이터 육성 ⓻UN 내 AI 사무국 설립. 보고서는 이런 권고사항을 이행하고 조율하기 위해 UN 내에 소규모 AI 사무국을 구성할 것을 제안하고 있으며, 자문기구에 참여한 유일한 한국인인 고학수 개인정보보호위원회 위원장은 “AI의 위험이 더욱 심각해진다면, 회원국들이 AI의 감시, 보고, 검증, 집행 권한을 갖춘 더 강력한 국제기구 도입을 고려하게 될 것”이라고 말했다.
2. 네이버 자회사 ‘기술 미비’… 옷 벗기고 가슴 움켜쥐게 한 스노우 AI, 원인은?
최근 네이버 자회사인 ‘스노우’와 카메라 어플리케이션으로 명성을 크게 얻고 있는 소다(SODA)가 AI 기능으로 사진 작업을 하던 중 외설적인 이미지가 포함된 AI 합성사진이 생성되는 문제가 생겼다. 심지어 문제가 생긴 부분은 유료기능인 ‘AI 배경 확장 기능’과 ‘AI 헤어숍’ 서비스였다. 해당 어플리케이션의 AI 편집 기능은 오픈소스 모델인 ‘스테이블 디퓨전’(Stable Diffusion)을 기반으로 구축됐다. 그리고 서비스 과정에서 긍정 프롬프트와 부정 프롬프트의 필터 기능이 미흡해 문제가 발생했다고 회사 측은 설명했다. 이번 사건과 관련하여 전문가들은 기술적 해명이 아닌 유료 서비스를 이용 중 피해자들을 먼저 생각하는 방식으로 접근해야 한다고 언급했다. 익명을 요구한 정보통신기술(ICT) 분야 전문가(교수)는 “이번 문제를 스노우 앱 이용자가 단순히 ‘황당한 일’을 겪은 수준으로 치부해서는 안 된다”며 “자신의 얼굴이 담긴 사진을 넣고 편집을 요청하는 과정을 ‘직접’ 수행하는 구조라 부적절한 이미지가 도출됐을 때의 충격이 더 클 수밖에 없다. 회사의 기술적 미흡이란 일종의 ‘폭력’에 노출된 것”이라고 지적했다.
글‧사진 / 김도현
