2026-01-26
THINKFORBL COLUMN SERIES
AI가 인간의 두뇌를 먹어 치우는 시대, 도장 찍어주는 것으로 끝나서는 안 된다
정보통신신문
인공지능(AI)을 둘러싼 논의는 늘 쳇바퀴를 돈다. 어제는 국가 전략 산업이라서 세상을 다 줘서라도 어떻게든 키워줘야 하는 것이었다가, 오늘은 갑자기 너무 위험한 기술이라서 전방위 규제가 필요하다고 한다. 긍정과 부정, 장려와 규제가 정신없이 냉탕 온탕을 오가기 때문에 과열된 격론이 오가고 나면 남는 것 없이 피로해지는 느낌이다.
사실 이제껏 모든 신기술이 그랬다. 생소하던 신기술이 문화를 바꾸기 시작하면 사람들은 미래상에 대해 과도한 기대와 과도한 경계 사이를 극단적으로 오가게 된다. TV가 대중화됐을 때 그랬고, PC가 나왔을 때, 인터넷이 보급되었을 때, 스마트폰 사용이 일반화됐을 때도 마찬가지였다. 인터넷으로 인해 모든 차별이 없어질 것 같다가 또 다음날에는 모든 공동체가 무너질 것 같아서 실명제를 해야 한다고 했다. 지나놓고 보면 그 기대감과 경계심이 다 우스꽝스럽게 여겨질 때가 많은데, 그것은 당시 생각하던 신기술의 가능성과 위험성이 틀렸기 때문이 아니다. 가능성에 대한 기대와 위험성에 대한 불안이 모두 막연한 감정에 머물러 있었기 때문이고, 해당 기술 이전의 기준에 머물러 그 기술의 본질을 정확하게 보지 못했기 때문이다.
AI에 대한 대중의 불안감은 상당 부분 ‘통제’ 문제와 연결돼 있다. AI가 게임의 수나 짜주고 말 상대해주는 시기를 지나 법률과 재무 상담, 운전, 심지어 예술 활동까지 인간 이상의 역량으로 대신해 버리니, 사람들은 내 통제를 벗어난 지적 존재에 대해 불안해하게 된다. 그래서 사람들은 계속 “최종 판단은 사람이 통제해야지!”라 말한다. 인터넷이 미풍양속을 무너뜨리니까 자녀 방의 랜선을 죄다 끊어버려야 한다던 것과 비슷한 반응이다.
최종 판단을 사람이 해야 한다는 것은 원칙적으로 옳다. 하지만 실제 현장으로 가면 현실적으로 무의미해지는 원칙이다. 챗봇 시대의 AI는 사람한테 말을 했고, 그 말이 엉뚱하더라도 이용자가 천천히 걸러서 듣거나 읽으면 됐다. 인간이 브레이크 역할을 할 수 있었다는 의미다. 하지만 이제 AI 에이전트는 소프트웨어를 실행하고 ‘피지컬 AI’는 로봇과 자율주행차를 움직인다. 그 판단과 행동이 밀리초 단위로 이루어지는데, 인적 통제라는 말은 사실상 정신승리에 가깝다. 인간이 개입해서 통제하려 했을 때 이미 상황은 종료돼 있기 때문이다.
AI 기술의 본질상 인간이 모든 과정에 직접 개입해 통제한다는 것은 불가능하거나, 혹은 무의미한 목표다. 직접 판단해서 행동하니까 AI이다. 그러니까 AI의 속도를 절대 따라갈 수 없는 인간이 하나하나 판단에 개입할 생각 말고, 직접 판단하게 하되 그 판단이 특정 기준선을 절대 넘어서지 않게끔 사전 세팅하고 사후 관리해야 한다. 그것이 ‘최종 판단을 사람이 한다’는 목적을 실현하는 방법이다. 그리고 그것을 기술적으로 표현한 말이 바로 AI 신뢰성이다.
AI와 관련된 공공의 정책은 아직 통제에 대한 불안감을 달래는 수준이기 때문에 일단 규제안을 내놓고, ‘절대 오작동을 내지 않는 AI’에 도장을 찍어주는 검인증 제도를 도입하려 한다. 하지만, 그렇게는 문제가 해결되지 않는다. TV나 인터넷의 부작용을 막을 때도 인증 도장이 아니라 세밀한 기술 체계와 방송 모니터링 등 다수 전문가가 투입되는 과정이 필요했다. 무엇보다 해당 기술의 언어, 해당 기술의 논리에 따른 접근이 필요했다. 다수 대중의 맹목적인 불안감이 아니라는 말이다.
AI 통제에 대한 대중의 불안에는 다 이유가 있다. 그것을 해결하려면 AI 기술의 특수성에 맞는 실질적 해법이 있어야 한다. 그리고 실질적 해법은 기업 내 다수의 신뢰성 전문 인력과 그들이 구축한 거버넌스를 통해서만 가능하다는 게 내 생각이다. 그것을 개인이나 개별 기업이 해내기는 어렵기에 정부와 공공기관의 역할이 중요해진다. 법을 하나 더 만든다던가, 누군가 만들어온 완벽한 인공지능(AI)에 인증 도장을 찍어주는 것만이 아니라, 현장에 투입할 신뢰성 전문가 양성에 실제 힘을 보태는 것이야말로 기술 격변기 대한민국 정부가 해야 할 중요 소임이라고 나는 생각한다.
[출처]
2026-01-26
THINKFORBL COLUMN SERIES
AI가 인간의 두뇌를 먹어 치우는 시대, 도장 찍어주는 것으로 끝나서는 안 된다
정보통신신문
