KNOWLEDGE

말 많고 탈 많은 인공지능(AI) 시장 ③

인공지능(AI) 시장 동향을 알아보는 세 번째 시간. 최근 3개월간 AI 시장에서는 어떤 일이 벌어졌을까? 최신 동향을 소개한다.

데드봇(deadbots). 돌아가신 엄마, 만날 수 있다면, 가입하시겠습니까?​​​​​​​​
고인이 살아생전 남긴 음성 메시지, 메일 등을 학습한 인공지능(AI) 챗봇 서비스, 이른바 ‘데드봇(deadbots)’이 부상하면서 ‘사망자가 남긴 디지털 유산을 어떻게 처리할 것인가’가 AI 윤리에서 쟁점으로 떠올랐다. 국내에는 이와 관련 명확한 법적 규제가 없다.
데드봇은 고인이 남긴 문자, 음성기록, 웹상 게시물 등을 AI가 학습해 언어 사용 패턴과 성격 특성을 모사하는 AI 챗봇을 말한다. 영국 케임브리지대 레버훌룸 인텔리전스 미래센터(LCFI) 연구팀은 최근 “고인이 남긴 ‘디지털 유산’이 AI 학습에 활용되면 고인의 의사를 막론하고 홍보·마케팅용으로 쓰일 가능성이 있다”라고 지적했다.
국내에도 데드봇과 유사하게 고인의 사진, 음성, 영상 데이터를 바탕으로 AI 휴먼을 생성하는 서비스가 있다. 고인의 모습을 닮은 AI휴먼과 대화할 수 있도록 하는 서비스 ‘리메모리(Re;memory)’를 제공하는 딥브레인AI 장세영 대표는 “회사는 AI 휴먼 생성을 위한 기술을 제공할 뿐, 유족이 직접 영상을 제작한다”며 “고인의 데이터에 대한 권리와 책임은 유족에게 있다”고 말했다. 그러면서 “회사 차원에서도 고객 데이터를 다른 목적으로 활용하거나 배포할 수 없도록 약관을 마련해 시행 중”이라고 강조했다.

사람 개입 없는 AI 면접 시, ‘불합격’ 불복 가능해진다​​​​​​​​
앞으로 인공지능만으로 진행한 면접에서 불합격한 사람은 설명·재검토를 요구하거나 결정에 불복할 수 있다. 이런 내용을 담은 ‘개인정보 보호법’ 개정안이 시행됐다. 개정안은 AI가 개인정보를 처리할 때 정보 주체에게 기준과 절차 등을 투명하게 공개하는 한편, 당사자가 요구하면 어떤 기준과 절차에 따라 결정을 내렸는지 설명토록 하는 내용이 담겼다.
정부 관계자는 “AI 등이 내리는 ‘자동화된 결정’에 대한 대응권이 마련되는 것”이라고 설명했다. ‘자동화된 결정’이란 사람이 개입하지 않은 채 AI 등이 개인정보를 다루면서 당사자 권리와 의무에 영향을 주는 결정을 내린 경우를 뜻한다. 다만 사람인 면접관이 ‘AI 면접관’의 평가를 참조만 할 경우는 자동화된 결정이 아니다. 정보 주체가 결정할 수 있는 맞춤형 광고·뉴스 등도 해당하지 않는다.

메타, ‘라마’ 차기 멀티모달 버전 유럽에 안 판다​​​​​​​​​
메타가 인공지능 모델인 라마(Llama)의 차기 모달 버전을 EU연합 기업들에 판매하지 않기로 했다. 유럽의 규제 환경이 예측 불가능할 뿐 아니라 EU의 기존 데이터 보호법인 일반 데이터 보호법이라고 일컫는 GDPR 때문이라는 입장이다. 메타는 지난 5월 자사 SNS인 페이스북과 인스타그램 게시물로 모델을 훈련할 계획이었으나, 유럽 사용자에게 데이터 수집을 거부할 수 있는 권리인 옵트아웃(opt-out)을 지원했음에도 불구하고 EU 규제 당국은 6월 데이터 훈련을 중단하라는 명령을 내렸다. 메타 관계자는 “EU와 유사한 법을 가진 영국에서는 이러한 문제를 겪지 않고 있다”며 “영국 시장에는 새로운 모델을 출시할 계획”이라고 밝혔다.


글‧사진​ / 김도현