2022-09-12
THINKFORBL COLUMN SERIES
[ICT광장] '이루다' 서비스, 꼭 그렇게 매도돼야 했을까?
정보통신신문
인공지능(AI)의 신뢰성을 확보하는 문제는 어렵다. 간혹 이 문제를 당장 해결할 방법이 있을 것처럼 화려한 청사진을 제시하는 기업이 있다. 하지만 그렇게 간단한 문제였다면 구글이나 아마존, 페이스북의 AI에서 아직도 편향성과 윤리적 문제가 빈발할 리 없다.
특히 '신뢰성'이라는 단어에 두가지 의미가 혼재돼 있다 보니, 관련 전문가도 다소 혼란스러워하는 정도다. 그 하나는 'Trustworthy'로, AI가 특정 상황에서 사회 통념상 '올바르게' 행동한다는 의미에서의 신뢰성이다. AI의 '인격'이 신뢰할 만한지 판단하는 기준이라고 해도 될 것이다. 또 하나는 'Reliability'로, AI가 사용자의 명령을 정확하고 효율적으로 수행하는지가 기준이 된다.
AI가 기술적으로 잘 통제돼 시키는 대로 결과를 만들어내니 그만큼 신뢰하고 맡길 수 있다는 의미가 될 것이다. '올바르지 않은' AI라도 올바르지 않은 일을 효과적으로 해내는(Reliability) 경우가 있을 것이다. 반면에 Trustworthy가 갖춰진, '올바르게' 행동하는 AI도 주어진 일을 효과적으로 해내는(Reliability) 데는 상대적으로 뒤처질 수 있다. 따라서 AI 신뢰성 확보란 AI가 사용자의 의도대로 효과적으로 움직이는(Reliability) 동시에, 사회통념상으로도 올바른 행동을 하게끔(Trustworthy) 검증한다는 의미가 된다. 그중에서도 AI를 올바르게 행동하게끔 만드는(Trustworthy) 부분이 무척 어렵다.
첫째로, AI가 언제나 올바른 행동을 하게 하려면 AI 자체의 성능뿐 아니라 AI의 행동을 끊임없이 추적하며 예기치 못한 돌발변수까지 감안하는 사후 관리 체계가 필요하다.
둘째로, 그 '올바름'에 대한 기준을 개발자나 사용자 스스로가 제대로 인지하지 못하거나 사회적으로 합의하지 못하는 경우가 생각보다 많다.
지난 칼럼의 트롤리 딜레마 문제에서 언급한 바와 같이, 다수의 통념이라 해서 반드시 보편 윤리에 합당하다고 장담할 수 없으며, 우리는 집단적 편견에 따르면서도 그 편견 자체를 인식 못하는 경우가 많다.
다시 말해 구성원 모두가 '올바르게' 판단하지 못하므로, 거기서 얻은 데이터로 학습한 AI 역시 종종 그릇된 행동을 하게 된다는 것이다.
이 점을 잘 보여준 사례가 얼마 전 '이루다' 채팅 서비스와 관련된 논란이었다. 이루다의 AI가 윤리적으로 그릇된 발언 패턴을 다수 보인 것은 AI나 개발자에게 악의가 있어서가 아니다. AI가 학습한 데이터에(어쩌면 사회의 양적 다수를 차지하는) 특정 집단의 통념이 반영됐기 때문이다. 이는 이루다 AI로 하여금 늘 올바르게 행동하게끔 만들어야 할(Trustworthy) 제작사의 관리 역량이 미흡했음을 보여준다.
그런데 이에 쏟아진 비난은 다소 과도했다는 생각이 든다. 이루다의 시행착오는 AI 신뢰성에 대한 인식을 재고하는 기회가 됐으며, 개발 업계에는 새로운 도전의 길을 제시했다. 하지만 대중은 AI 채팅 서비스 자체가 '악'인 양 이루다의 신뢰성 기술 부족을 과도하게 공격했고, 그것이 서비스 중단의 한 원인이 됐다. 필자는 여기에 한국 사회 특유의 기술에 대한 지나친 조급증, 그리고 실패를 용납 못 하는 사회 분위기가 작용한 게 아닐까 생각한다. 사회가 이루다의 미흡함을 조금만 관용하면서 지켜본다면 그로부터 국내 AI 신뢰성이 점진적으로 향상되는 기회가 될 수 있다.
기술의 하자를 용납하지 않는 이런 조급증이 오히려, 지난 칼럼에서 언급한 '가짜 완성품'만 득세하게 만드는 것일지도 모른다. 요컨대 '명령한 대로 정확히 작동(Reliability)하는' 동시에 '올바르게 행동(Trustworthy)하는' 차원의 AI 신뢰성 확보는 AI 산업 전체가 완수해야 할 과제이면서, 현재로선 여전히 난해한 부분이다. 사회가 이런 난제의 책임을 개별 기업에만 떠넘긴다면, 한 번의 실패가 파산으로 이어지는 국내 여건상 기업은 도전을 꺼리게 되고 기술 혁신은 지체된다. 나아가 건실한 기업이 주저하는 동안, 일부 영악한 기업이 한 큐에 해결할 수 있는 양 과장된 영업으로 관련 사업을 '먹튀'하기도 한다. 대중과 정부기관이 이런 현실을 인식하고, 선두 국가조차 해결 못한 난제에 용감하게 도전하는 일선 기업에게 조금 더 힘을 보태주면 좋겠다.
[출처]
- 관련 기사 :
http://www.koit.co.kr/news/articleView.html?idxno=102733
https://blog.naver.com/thinkforbl/222873225044
- 이미지 :
픽셀
특히 '신뢰성'이라는 단어에 두가지 의미가 혼재돼 있다 보니, 관련 전문가도 다소 혼란스러워하는 정도다. 그 하나는 'Trustworthy'로, AI가 특정 상황에서 사회 통념상 '올바르게' 행동한다는 의미에서의 신뢰성이다. AI의 '인격'이 신뢰할 만한지 판단하는 기준이라고 해도 될 것이다. 또 하나는 'Reliability'로, AI가 사용자의 명령을 정확하고 효율적으로 수행하는지가 기준이 된다.
AI가 기술적으로 잘 통제돼 시키는 대로 결과를 만들어내니 그만큼 신뢰하고 맡길 수 있다는 의미가 될 것이다. '올바르지 않은' AI라도 올바르지 않은 일을 효과적으로 해내는(Reliability) 경우가 있을 것이다. 반면에 Trustworthy가 갖춰진, '올바르게' 행동하는 AI도 주어진 일을 효과적으로 해내는(Reliability) 데는 상대적으로 뒤처질 수 있다. 따라서 AI 신뢰성 확보란 AI가 사용자의 의도대로 효과적으로 움직이는(Reliability) 동시에, 사회통념상으로도 올바른 행동을 하게끔(Trustworthy) 검증한다는 의미가 된다. 그중에서도 AI를 올바르게 행동하게끔 만드는(Trustworthy) 부분이 무척 어렵다.
첫째로, AI가 언제나 올바른 행동을 하게 하려면 AI 자체의 성능뿐 아니라 AI의 행동을 끊임없이 추적하며 예기치 못한 돌발변수까지 감안하는 사후 관리 체계가 필요하다.
둘째로, 그 '올바름'에 대한 기준을 개발자나 사용자 스스로가 제대로 인지하지 못하거나 사회적으로 합의하지 못하는 경우가 생각보다 많다.
지난 칼럼의 트롤리 딜레마 문제에서 언급한 바와 같이, 다수의 통념이라 해서 반드시 보편 윤리에 합당하다고 장담할 수 없으며, 우리는 집단적 편견에 따르면서도 그 편견 자체를 인식 못하는 경우가 많다.
다시 말해 구성원 모두가 '올바르게' 판단하지 못하므로, 거기서 얻은 데이터로 학습한 AI 역시 종종 그릇된 행동을 하게 된다는 것이다.
이 점을 잘 보여준 사례가 얼마 전 '이루다' 채팅 서비스와 관련된 논란이었다. 이루다의 AI가 윤리적으로 그릇된 발언 패턴을 다수 보인 것은 AI나 개발자에게 악의가 있어서가 아니다. AI가 학습한 데이터에(어쩌면 사회의 양적 다수를 차지하는) 특정 집단의 통념이 반영됐기 때문이다. 이는 이루다 AI로 하여금 늘 올바르게 행동하게끔 만들어야 할(Trustworthy) 제작사의 관리 역량이 미흡했음을 보여준다.
그런데 이에 쏟아진 비난은 다소 과도했다는 생각이 든다. 이루다의 시행착오는 AI 신뢰성에 대한 인식을 재고하는 기회가 됐으며, 개발 업계에는 새로운 도전의 길을 제시했다. 하지만 대중은 AI 채팅 서비스 자체가 '악'인 양 이루다의 신뢰성 기술 부족을 과도하게 공격했고, 그것이 서비스 중단의 한 원인이 됐다. 필자는 여기에 한국 사회 특유의 기술에 대한 지나친 조급증, 그리고 실패를 용납 못 하는 사회 분위기가 작용한 게 아닐까 생각한다. 사회가 이루다의 미흡함을 조금만 관용하면서 지켜본다면 그로부터 국내 AI 신뢰성이 점진적으로 향상되는 기회가 될 수 있다.
기술의 하자를 용납하지 않는 이런 조급증이 오히려, 지난 칼럼에서 언급한 '가짜 완성품'만 득세하게 만드는 것일지도 모른다. 요컨대 '명령한 대로 정확히 작동(Reliability)하는' 동시에 '올바르게 행동(Trustworthy)하는' 차원의 AI 신뢰성 확보는 AI 산업 전체가 완수해야 할 과제이면서, 현재로선 여전히 난해한 부분이다. 사회가 이런 난제의 책임을 개별 기업에만 떠넘긴다면, 한 번의 실패가 파산으로 이어지는 국내 여건상 기업은 도전을 꺼리게 되고 기술 혁신은 지체된다. 나아가 건실한 기업이 주저하는 동안, 일부 영악한 기업이 한 큐에 해결할 수 있는 양 과장된 영업으로 관련 사업을 '먹튀'하기도 한다. 대중과 정부기관이 이런 현실을 인식하고, 선두 국가조차 해결 못한 난제에 용감하게 도전하는 일선 기업에게 조금 더 힘을 보태주면 좋겠다.
[출처]
- 관련 기사 :
http://www.koit.co.kr/news/articleView.html?idxno=102733
https://blog.naver.com/thinkforbl/222873225044
- 이미지 :
픽셀
2022-09-12
THINKFORBL COLUMN SERIES
[ICT광장] '이루다' 서비스, 꼭 그렇게 매도돼야 했을까?
정보통신신문
