KNOWLEDGE
말 많고 탈 많은 인공지능(AI) 시장
지난 호에 이어 이번에도 인공지능(AI) 시장 동향을 알아보는 시간을 가져본다. 최근 3개월간 AI 시장에서는 어떤 일이 벌어졌을까?
AI가 인간을 속이고 조종하고 있다
미국 매사추세츠공과대(MIT)의 피터 박 박사후연구원은 최근 국제학술지 <패턴>에 AI의 속임수와 관련한 논문을 발표했다. 그러면서 AI 시스템에 의한 속임수의 위험성을 설명하고 정부가 이 문제를 가능한 한 빨리 해결하기 위한 강력한 규정을 마련할 것을 촉구했다.
연구진은 AI의 거짓말과 속임수를 쓰는 대표적인 예로 메타가 온라인 게임을 학습시킨 AI ‘시세로(Cicero)’를 언급했다. 메타가 지난 2022년 11월 온라인 게임 ‘디플로머시’에서 인간에 필적하는 성능을 달성한 시세로를 공개했다. 디플로머시는 20세기 초 유럽 7대 열강의 대전을 배경으로 하는 전략게임이다.
메타는 시세로가 게임에서 이기도록 훈련해 인간 플레이어 중 상위 10%에 들게 했다. 메타는 시세로를 ‘대체로 정직하고 도움이 되는’ 인물로 훈련하고 게임을 하는 동안 인간 동맹을 ‘의도적으로 배신하지 않도록’ 훈련했다고 주장했다. 하지만, 메타가 사이언스지 논문과 함께 발표한 데이터에 따르면 시세로는 공정하게 플레이하지 않았다. 또한 웹사이트 로그인이나 양식 제출 시 ‘로봇이 아닙니다’와 같은 문구가 나타나는 캡차(CAPTCHA) 시스템에서 AI가 인간이 아님에도 시스템을 속이고 이를 통과하기도 한다. 연구진은 EU AI법과 미국의 AI 행정 명령과 같은 조치를 통해 정책 입안자들이 이 문제를 심각하게 받아들이기 시작하고 있다며 긍정적인 현상이라고 말했다.
AI 생성물에 워터마크 도입 요구 늘어… “법제화 서둘러야”
인공지능(AI)을 악용한 가짜뉴스, 딥페이크 범죄 등을 막기 위해 AI 생성물에 워터마크를 도입해야 한다는 목소리가 커지고 있다. AI가 만든 생성물을 식별할 수 있게 하자는 내용의 국민동의 청원이 지난달에 5만 명을 초과해 소관위원회인 문회체육관광위원회에 회부됐다. 현행 국회법에 따라 공개일로부터 30일 이내에 5만 명 이상 동의를 얻은 국민동의 청원은 소관 상임위원회에 회부 된다.
정부는 이 같은 여론과 맞물려 올해 AI 저작물에 워터마크 표시를 의무화하는 등 가짜뉴스 생성·유통·확산 전주기 대응 체계를 구축하기로 했다. 과학기술정보통신부는 AI 기술의 안전성과 신뢰·윤리 확보 등을 골자로 하는 ‘새로운 디지털 질서 정립 추진계획’을 관계부처 합동으로 마련해 지난 21일 국무회의에 보고했다.
글‧사진 / 김도현
