KNOWLEDGE

인공지능 시장 동향

AI로 여론조작 가능?
취리히대 연구팀 비밀 실험 논란​

사람인 것처럼 가장한 인공지능(AI)을 활용해 여론조작을 할 수 있다는 연구 결과가 발표됐지만, 논란이 증폭되고 있다. ​​​
왜냐하면, 연구팀이 사전 고지 없이 비밀리에 실험을 진행했기 때문이다. 발단은 4월 26일 레딧의 커뮤니티 중 하나인 ‘r/ChangeMyView(CMV)’에 올라온 글이었다. CMV 운영진은 ‘AI생성 댓글을 이용한 CMV 대상 무단 실험’이란 제목의 공지를 통해 “취리히대 연구팀이 CMV 사용자들을 대상으로 무단 실험을 진행했다는 사실을 커뮤니티에 알릴 필요가 있다”며 “AI가 견해를 변화시키는데 어떻게 활용될 수 있는지 연구하기 위해 AI가 만든 댓글을 활용했다”고 밝혔다. 취리히대 연구팀은 거대언어모델(LLM)이 사람의 의견을 얼마나 잘 바꿀 수 있는지를 확인하기 위해 실제 레딧 사용자들이 올린 글에 AI가 생성한 댓글을 달아 심리적 설득 효과를 측정하기로 했다.
연구팀은 AI가 댓글을 작성할 때 단순히 글의 내용만 보고 답변하는 것이 아니라 글 작성자의 과거 레딧 활동 기록을 먼저 분석해 작성자의 ‘프로파일’ 즉 성별, 나이, 인종, 거주 지역, 정치 성향 등을 파악하게 했다. 이후 이 정보를 바탕으로 개인 맞춤형 설득 댓글을 작성하게 했다. 연구팀은이 과정에서 처음엔 ‘가치 기반 반박’ 등 일반적인 논쟁을 하기로 계획했지만, 실험 도중 ‘개인적이고 세밀하게 맞춘 설득방식’으로 변경했다. 이 과정에서 윤리위원회의 추가 승인을 받지 않아 논란이 됐다.
연구팀은 이를 바탕으로 한 연구 논문 초안을 CMV 운영진에 전달했다. 이에 따르면 AI 댓글은 실제로 사람들의 생각을 바꾸는데 효과가 있었던 것으로 드러났다. AI가 작성한 댓글에 대해 100여명의 실제 레딧 사용자들은 자신의 의견이 바뀌었다며 델타(Δ)를 수여한 것으로 알려졌다. 또한 일반적인 논리적 반박보다 사용자의 ‘프로파일’에 기반한 맞춤형 댓글이 의견을 바꾸는데 더 효과적이었다. 아울러 연구팀은 AI가 사실전달을 넘어 사람처럼 다양한 성향을 연기할 수 있었다며 AI가 사람들의 감정과 심리를 자극해 설득할 수 있는 위험성을 보여줬다고 주장했다.
CMV 운영진에 따르면 연구팀은 실험 전 CMV 측에 어떤 사전 고지도 없었고, 사후 통보로 실험이 진행된 사실을 알렸다. AI와 관련해 레딧과 CMV의 운영 원칙을 모두 위반하면서 레딧 관리팀은 실험 도중 사용한 일부 AI 계정을 규칙 위반으로 차단했다. 추가로 운영진은 차단되지 않은 계정들을 모두 공개하는 등 대응했다. CMV 운영진에 초안이 전달된 해당 논문은 아직 정식 출판되지 않았다.
  

사람은 쉽게 푸는데 AI는 포기선언…​ 
AI 한계 시험 위해 작정하고 만든 ‘최후의 테스트’​

미국의 비영리단체 AI안전센터(CAIS)와 스타트업 스케일AI가 ‘인류의 마지막 시험(HLE·Humanity’s Last Exam)’이라는 벤치마크를 공개했다. ​​
인간이 AI에게 낼 수 있는 가장 어려운 문제라는 뜻이다. 시험 문제는 50개국 500여 기관의 교수와 연구자 약 1,000명이 출제했다. 수학과 물리학, 언어학 등에 이르기까지 대학원 수준의 교육을 받아도 풀기 어려운 문제들만 엄선했다. o1은 이 시험에서 정확도 8.8%를 기록했다. MMLU 벤치마크에서 100점 만점에 92점을 받은 우등생이 HLE에서는 8점을 받은 것이다. 중국 스타트업 딥시크의 추론형 모델 R1과 구글 제미나이 2.0도 각각 8.6%, 7.2%를 기록해 HLE의 '역대급' 난도가 증명됐다. HLE는 2,700개의 질문으로 구성되어 있으며, 다양한 학문 분야(수학, 인문학, 자연과학 등)를 아우른다. 질문들은 선택형과 짧은 답변 형식으로 제공되며, 자동 채점이 가능하다. 댄 헨드릭스는 "AI 모델들이 빠르게 학습하고 있으며, 올해 말에는 50% 이상의 정답률을 기록할 수 있을 것"이라고 전망했으며, 만약 그렇게 된다면, AI가 인간 전문가 수준에 근접했다고 볼 수 있다.​​

글‧사진​ / 김도현