"기업 업무는 영업이 전부이고, 기타 부서는 영업의 일을 도울 뿐"이라는 농담 섞인 속설이 있다. 기업의 목적은 업종 불문하고 자사 상품이나 서비스로 이윤을 획득하는 것이어서, 고객을 설득해 무언가를 판매하는 일이 그만큼 중요하다는 의미다. 문제는 영업을 중시하느라 종종 상품 본질을 왜곡하는 일종의 기만행위를 자행한다는 것이다. 이 점은 기술 분야에서도 마찬가지여서, 짜장면에 김치 한 조각을 얹어 팔면서 신개념 한류 푸드테크(Food-Tech)라 포장하는 식의 억지를 부리며, 단기적 이익을 얻는 대신 시장 전체의 방향을 오염시키는 일이 발생하곤 한다.

인공지능(AI) 신뢰성이 중시된 것은 극히 최근의 변화라서, 아직 이에 대한 확실한 기술 표준이나 공적 기준이 없다. 시장에서 이 부분을 불안하게 여기다 보니, 다른 권위자나 영업자의 언변을 동원해 이를 해소하는 마케팅을 펼치기도 한다. 이를테면 자사에 특정 대기업 관련 AI 인증 기술이 있으니, 신뢰성 문제도 충분히 해결할 수 있다고 광고해 사업을 수주하는 식이다. 그런 홍보는 '셀링포인트'를 설정하는 것이라 매력적일 수 있겠지만, 기술 측면에서는 위험한 발상이다.

AI의 성능 테스트와 신뢰성 검증은, 똑같이 칼을 쓰는 일이라도 채소 썰기와 외과수술만큼이나 서로 다르다. 브레이크가 고장 난 기차 앞 양쪽에 각각 젊은이 3명과 노약자 3명이 묶여있을 경우 기차 방향을 어느 쪽으로 돌려야 하냐는 트롤리 딜레마(Trolley dilemma)가 있다. 과거에는 종종 "이딴 딜레마를 만들어낸 녀석을 기차로 밀어버리면 된다"며 우스갯소리로 반박될 만큼 억지스러운 사고실험이었지만, 자율주행 시대에는 AI의 판단 패턴을 결정할 중요한 문제가 된다. 이를테면 자율주행차의 AI가 데이터 학습 과정에서 자사 고객을 더 중시하는 제조사 방침에 영향받아 운전자의 부상을 막으려고 대형 참사를 유발하는 결정을 내린다면? 실제로 4년간 트롤리 딜레마의 9가지 자율주행 비교 상황을 조사한 223개국 4천만 건의 결과에서, 문화권에 따라 '덜 유용한' 사람, 혹은 더 낮은 지위의 사람을 희생시키는 경향을 보였다.

보편적 윤리에 대한 사회적 합의가 없거나, 개발자가 윤리 원칙을 토대로 AI 신뢰성을 면밀하게 점검하지 않으면, AI는 특정 사회의 잘못된 가치관이나 편견을 그대로 학습해 행동하게 된다. 성능 테스트는 트롤리 기차의 브레이크 고장 확률을 줄일 수 있다. 하지만 막상 피치 못 할 요인으로 인해 딜레마가 발생하면 '올바른' 결정을 하게 만들 수는 없다. 그것은 신뢰성 검증의 역할이기 때문이다. 성능 테스트 경험을 AI 신뢰성과 엮어 그럴싸하게 광고하는 회사에 검증을 맡겨봐야, 트롤리 기차가 '더 효과적으로' 선로 위 특정인을 깔아뭉개게 할 뿐이다.

기업은 이윤 확대를 위해 때로는 봉이 김선달처럼 독자적인 '셀링포인트'를 만들어 대동강 물을 상품화할 수 있다. 하지만 그 과정에서 곧장 마셔서는 안 되는 날것의 대동강 물을 천연암반수인 양 광고해서는 안 된다. 사회 또한 그런 광고를 허용해서도 안 된다. 다수의 식중독 피해를 초래할 것이기 때문이다. 믿고 마실 수 있는 생수를 생산하는 것은 영업이 아닌 엄밀한 기술의 영역이고, 충분히 객관적으로 검증돼야 한다.

기업이 당장 이익을 위해 과장광고로 기술의 경계를 무너뜨린다면 해당 기술 개발에 성실하게 임하는 다른 기업의 앞길을 막고 해당 업계 자체의 사회적 신뢰를 무너뜨릴 수 있다. 그런데 AI 신뢰성 분야에서 일부 기업의 잘못된 행태가 나오는 것은 일정 부분 정부 기관의 책임도 있다. 다음 칼럼에서 자세히 이야기하겠지만, AI 분야에서 어떻게든 더 빠른 기술 완성과 성과물을 바라는 대중과 정부 기관의 조급함이, 그 조급함에 기대어 투자금을 챙기려는 일부 기업의 영업 의욕을 자극하기도 한다. 생수 수질에 대한 공공 기준이 미흡한 상황에서 하루빨리 고품질 생수가 나오기를 재촉하니 몇몇 회사가 대동강 물을 퍼다가 특급 생수라며 영업하는 식이다. 우리는 AI 신뢰성의 중요성을 인식하는 만큼, 관련 기술의 엄중함에 대해 더 진지해질 필요가 있다.




[출처]
- 관련 기사 : 
http://www.promedia.kr/news/articleView.html?idxno=368546
https://blog.naver.com/thinkforbl/222838206080
- 이미지 :
픽사베이​