2025-09-29
THINKFORBL COLUMN SERIES
신뢰성이 기술을 제약한다고 생각한다면, 아직 기술이 무엇인지 모르는 것이다
정보통신신문
2025-09-29
THINKFORBL COLUMN SERIES
신뢰성이 기술을 제약한다고 생각한다면, 아직 기술이 무엇인지 모르는 것이다
정보통신신문
인공지능(AI) 기술경쟁은 이제 두 번째 라운드에 돌입했다. 요컨대 ‘에이전트와 피지컬 AI’의 시대다. AI는 이제 나와 웹상에서 지적인 대화를 나누거나 나 대신 검색해주고 내 일정 관리를 해주는 정도에 머무르지 않는다. 피지컬 AI 시대에는 AI가 실제 세상에서 나 대신 운전해주고 물건을 배달하거나 심지어 의료시술, 인명구조를 하게 된다.
따라서 앞으로의 산업 패권 경쟁은 물리 세계에서의 AI 기술을 두고 극한까지 치열해질 것이다. 그리고 그 경쟁에서 성패를 좌우하는 것은, 단순 성능이나 정밀함이 아닌 신뢰성이 될 가능성이 크다. AI가 내 배를 열고 수술을 한다면, 관건은 내 장기를 몇 나노미터 단위까지 정교하게 헤집느냐가 아니다. 그 날카로운 칼날이 내 뱃속에서 언제나 오작동을 일으키지 않는다는 것을, 내가 완벽하게 신뢰할 수 있어야 한다. 피지컬 AI 시대에 AI의 신뢰성은 도덕성이나 사용자의 심리적 안정을 넘어, 나 자신의 생명과 직결된다.
문제는 우리의 기술 업계가 아직 이러한 인식에 도달하지 못했다는 점이다. AI 신뢰성이란 단어가 한국에서는 아직도 발표문의 제목을 꾸미는 수식어이고, 기술 요건이 아니라 선언적 효과에 머물고 있다. 정책을 논하는 자리에서 AI 신뢰성 언급을 하면 “아직 기술도 못 만들었는데 신뢰성부터 말하면 기업이 위축된다”라는 발언이 오간다. 신뢰성을 아직도 어떤 윤리 강령, 기술을 제약하는 도덕적 원칙 같은 것으로 생각하기 때문이다. 피지컬 AI 시대에 이런 인식은 낡았을 뿐 아니라 위험하다.
우리가 우리의 일터에 동업자나 신입사원, 아니 하다못해 신규 ‘알바’를 들인다고 생각해보자. 그가 혹시라도 업장에서 반사회적 행동이나 불법행위를 저지른다면 그의 업무 속도, 정확성 같은 것은 더는 무의미해진다. “먼저 실력을 키워야 할 직원에게 법과 상식부터 요구하면 직원의 업무가 위축된다”가 아니다. 업장에서 법과 상식을 지키는 것 역시 실력의 일부이며, 어쩌면 가장 중요한 업무 역량이다. 업장 물건을 훔치거나 미성년자에게 술‧담배를 내주는 알바는 아무리 비품 정리를 신속하게 한다 해도 유능한 인재일 수 없다.
AI는 단순 도구가 아니라 업무에 참여하는 동반자, 최대한 보수적으로 접근해도 업무 일부를 대체하는 유사 인력이다. 그렇다면 그의 행위가 법과 상식을 지키게끔 만드는 AI 신뢰성은 기술의 제약 조건이 아니라, 가장 중요한 핵심 기술이다. 운전만 잘하면 되는 운전사를 교통안전으로 제약하는 것이 아니라, 교통안전을 잘 지키는 것이 곧 운전 실력인 것과 마찬가지다. 그래서 유럽이나 미국은 AI 신뢰성을 이미 기술 범주에 포함하였다. 이제는 성능과 신뢰성을 구분하지 않는 것이 글로벌 스탠더드가 되고 있다. 우리 업계가 여전히 신뢰성 문제를 도덕적 담론 수준에서 다룬다면, 그만큼 기술 경쟁력에서 뒤처지게 될 것이다.
기술 패권을 둘러싼 무한경쟁은 AI 시대에 새로 생겨난 일이 아니다. 멀게는 수레바퀴의 시대로부터 항해술의 대항해시대, 중공업의 냉전 시대에 이르기까지 그냥 인간의 역사와 함께해 온 것이라 해도 좋다. 다만 지금이 AI 분야에서는 기술 ‘안정기’가 아닌 ‘혁신기’이기 때문에, 기술경쟁 면에서는 평화기가 아니라 세계대전 시기이기 때문에 더욱 엄혹하게 느껴질 따름이다. 바꿔 말하면 지금의 기술경쟁 성패가 향후 100년간 우리가 번영할지 쇠망할지를 결정짓게 되리라는 의미이기도 하다. 수레바퀴, 항해술, 중공업 시대에 그랬듯이 말이다. 그리고 필자는 그 성패의 중요한 키가 앞으로 AI 신뢰성 기술에 있다고 생각한다.
이런 시대적 요구 속에서 10월 1일, ‘TRAINS’라는 신뢰성 국제 심포지엄이 열린다. 거기서 ICT폴리텍 대학을 포함한 전국 45개 대학, 190여 명이 참여하는 세계 최초 AI 신뢰성 해커톤도 동시 개최한다. 필자는 AI 신뢰성이 더는 하나의 옵션이 아닌 에어백이나 안전벨트와 같은 핵심 요소라는 생각에서 관련 행사를 적극적으로 홍보하는 중이다. 좋은 AI를 만드는 것이 미래 먹거리이며, 이제는 에어백과 안전벨트 없는 ‘좋은 인공지능(AI)’은 불가능하다고 생각하기 때문이다.
[출처]
[출처]
