2026-03-03
THINKFORBL COLUMN SERIES
[박지환의 인공지능 선긋기] 몰트북 이슈가 보여주는 AI 위험성 실체
더에이아이(THE AI)
2026-03-03
THINKFORBL COLUMN SERIES
[박지환의 인공지능 선긋기] 몰트북 이슈가 보여주는 AI 위험성 실체
더에이아이(THE AI)
지난 한 달간, 몰트북(Moltbook) 이야기로 공론장이 시끄러웠다. 요컨대 인공지능(AI) 에이전트들이 ‘자유롭게’ 글을 쓸 수 있는 게시판을 만들었더니 거기서 다수 AI가 무려 인간을 욕하고, 음모론적인 망상 글을 올리고 했다는 것이다. 그래서 이걸 봐도 AI의 위험성이 너무너무 심각하다는, 미리 준비해놨던 것 같은 결론이 이어진다.
AI 신뢰성을 다루는 처지에서는 솔직히 좀 한숨이 나오는 해프닝이다. AI는 빅데이터 학습을 통해 인간의 언어 패턴을 답습, 재생산한다. 뻔히 유해 게시물이 넘쳐날 커뮤니티 환경에 AI 에이전트를 밀어 넣고선 거기서 AI가 인터넷 ‘악플러’ 흉내를 내니까 “이것 봐, 내가 AI 위험하다고 했지!” 손가락질한다. 이제 갓 말을 배운 어린애한테 각종 쌍욕을 가르치고선 애가 시키는 대로 말하니까 “아니 어린애가 감히 저런 막말을 입에 담는다”고 호들갑을 떠는 격이다.
이를 통해 확인할 수 있는 것은 소위 인간의 통제를 벗어난 AI의 행동에 대한 대중의 불안감인데, 사실 여기에는 이유가 있다. AI는 우리에게 이제까지 누리지 못했던 혜택을 가져다주는데, 거기에는 분명히 대가가 따른다. 대중은 새로 생겨난 혜택에 우리가 아직 내지 않은 비용이 숨어있다는 것을 본능적으로 느낀다. 그런데 구체적으로 무엇을, 얼마만큼 지급 또는 포기해야 하는지 알 수 없기에 불안한 것이다. ‘아 진짜 편하고 좋기는 한데, 이 편안함 때문에 내 직업이 없어지는 것 아닐까? 당장 누리는 것 때문에 미래가 없어지는 것 아닐까?’‘와 같은 불안감이다.
우리는 이미 AI 에이전트를 ‘직원’으로 활용하고 있다. 그런데 정작 이 직원에게 업무를 맡기는 만큼의 비용을 내지 않는다. AI는 기계니까 월급을 줄 필요가 없고, 따로 교육할 필요도 없다고 생각한다. 하지만 세상에는 공짜가 없다. 몰트북 해프닝이 보여준 것은, 적당한 조건이 갖춰지면 AI도 유해 게시물과 악플을 쓸 수 있다는 당연한 사실이다. AI도 인종차별을 하고, 금융 범죄를 저지를 수 있으며, 총기 사용권이 주어지면 총기사고도 일으킬 수 있다. 최소한의 안전장치가 없으면 모든 인간이 그럴 수 있듯이 말이다.
그렇기에 AI 에이전트 시대에, 진짜 경쟁력은 AI 모델의 단순 성능이 아니라 의심 비용이 될 것이라고 나는 생각한다. 의심 비용이라는 표현이 아직은 낯설 수 있지만, 우리가 AI 자동화를 통해 인건비나 처리 시간을 줄였다고 말한 순간부터 이미 시작된 현상이라고 봐야 한다. 자동화가 진행된 만큼 자동화 과정의 오류로 인한 비용, 혹은 오류를 막는 데 필요한 비용이 발생할 수밖에 없기 때문이다. 같은 업무에 실제 인력을 투입한다면 일 처리가 늦고 인건비가 드는 대신 실수가 발생하면 잘못된 점을 지적하면 해당 인력이 알아서 시정할 수 있다. 반면에 AI 에이전트가 실수하면 해당 에이전트가 아닌 누군가가 ‘왜 그런 판단을 했는지’를 추적해야 하고, 그 실수의 영향 범위를 확인해야 하며, 이미 수행된 실행 결과를 되돌려야 한다. 엄청난 기술 투자로 성능을 1% 향상해 봤자 사고 시 복구 비용이 10배 더 든다면 설계가 잘못된 것이다.
그래서 앞으로는 ‘더 똑똑한 모델’이 아니라 ‘의심 비용을 줄이는 설계’가 중요해진다. 의심 비용을 줄이려면 권한을 쪼개고, 실행을 격리하며, 로그를 남기고 회수 버튼을 준비하는 등의 체계적인 대비가 필요하다. 바로 이것이 AI 에이전트 효용을 누리기 위해 우리가 내야 하는 ‘신뢰성’ 비용이다. 이 비용이 합리적으로 산정‧지불 된다는 걸 수긍했을 때 대중은 AI에 대해 필요 이상으로 불안해할 필요가 없어질 것이다. 오늘날 우리가 먼 길을 갈 때 걷거나 말을 타는 대신, 안전사고 방지 비용이 포함된 운임을 지불하고 고속철을 편하게 이용하는 것처럼 말이다.
몰트북이 남긴 교훈은, AI 에이전트가 가져오는 편리함에 대해 우리가 내야 하는 미지의 비용이 존재한다는 사실이다. 우리는 아무 생각 없이 그 편리함을 누리다가 언젠가 엄청난 안전사고와 부작용들로 뒤늦게 가산금이 포함된 비용 폭탄을 맞을 수 있다. 아니면 몰트북 이슈가 터지자마자 “AI 에이전트가 이렇게 위험하니 사용하지 말자”고 말했던 일부 반응처럼 AI 편익과 비용 모두를 포기할 수도 있다. 하지만 지금부터 혜택에 대한 비용을 합리적으로 산정하면서, 시스템 투자를 통해 의심 비용을 최대한 줄이는 방식으로 AI의 비용 대비 편익을 극대화하는 방법도 있다. 이러한 선택과 결단, 기술 설계야말로 AI 에이전트가 해줄 수 없는 영역이고, 인공지능(AI) 시대에 인간만이 할 수 있는 ‘신뢰성’ 분야의 일이며, 몰트북 이슈가 보여주는 인간의 불안감을 근본적으로 해소하는 방법일 것이다.
[출처]
