2026-11-19
THINKFORBL 사보 기술 파트 64호
최신 인공지능(AI) 동향
Thinkforbl
 

 

KNOWLEDGE

최신 인공지능(AI) 동향​


EU ‘AI 법’ 본격 시행, 미국은 AI 규제 완화 기조 주도​​

유럽연합(EU)의 포괄적 인공지능(AI) 규제 법률인 ‘AI 법’ 투명성 의무가 8월 2일부터 적용되기 시작했다. 이에 따라 AI 시스템 제공자와 배포자는 사용자에게 AI와 상호작용하고 있다는 사실을 알려야 한다. AI 생성 콘텐츠에는 기계가 판독할 수 있는 표시를 제공하고, 딥페이크 등의 생성물은 AI로 생성됐다는 사실을 공개해야 한다.

EU 집행위원회는 9월 1일 기자회견에서 전 세계 30여 개 범용 AI 모델 제공 기업에 의무 준수 여부를 확인하기 위한 정보 요청을 전달했다고 발표했다. EU AI 사무국은 8월부터 범용 AI 모델 제공자에게 정보 제공이나 모델 접근을 요구할 수 있는 집행 권한을 확보했으며, 이번 요청은 해당 권한을 처음 행사한 사례다. 토마스 레니에 EU 집행위원회 대변인에 따르면 이번 요청은 AI 안전과 보안, 저작권 준수를 중점적으로 확인한다. 앤트로픽, 오픈AI, 구글, 메타 등 주요 AI 기업은 법 시행에 대응해 원본 출처를 증명하는 워터마크나 학습 데이터 요약 공개 등의 준수 조치를 발표했다. 교육·생체인식·이민 등 고위험 분야에서 활용되는 AI 시스템 관련 규정은 2027년 12월, 기계류·완구·의료기기 등 제품에 내장된 AI 관련 규정은 2028년 8월 적용될 예정이다.

한편 미국 정부는 현지 시각 9월 1일부터 2일까지 노스캐롤라이나 채플힐에서 G20 혁신 장관회의를 주최하고 AI 규제 완화 기조를 주도했다. 마이클 크라치오스 백악관 과학기술정책실장은 정책 입안자가 매 혁신에 개별적으로 접근할 필요는 없다며, 모든 신흥 기술을 전례 없는 정책 과제로 취급해서는 안 된다고 강조했다. 아울러 특정 기술만을 겨냥한 규제를 지양하는 ‘캐롤라이나 원칙’ 수용을 촉구했다. G20 회원국은 합의한 ‘G20 혁신 장관 성명’에서 이 원칙을 참고해 각국의 정책 체계를 수립하기로 했다. 신규 규제는 기존 체계가 다룰 수 없는 새로운 사안에 집중하기로 했다.


미·중 정상, ‘초지능’ 대화와 소통 창구 구축 합의

美 백악관은 시진핑 중국 국가주석 방미 일정이 마무리된 9월 25일 설명자료를 발표하고, 초지능에 관한 미·중 양국 합의 내용을 공개했다. 두 정상은 ‘artificial intelligence(인공지능)’ 대신 ‘super intelligence(초지능)’라는 용어를 사용하는 데 합의했다. 양국은 초지능의 이점과 위험에 관한 의견을 교환하기 위해 ‘미·중 초지능 대화’를 출범시켰으며, 다음 교류는 11월 또는 그 이전에 진행할 계획이다. 초지능 사고에 대응하기 위한 양자 소통 창구를 구축하는 데도 합의했다.

중국은 트럼프 대통령이 제안한 ‘초지능’이라는 용어 선택을 존중한다는 태도다. 트럼프 대통령은 9월 22일 UN 총회 연설에서 ‘인공’이라는 단어가 기술을 진짜가 아닌 가짜처럼 느끼게 만든다고 말했다. 이에 향후 미국 정부의 모든 문서에서 인공지능을 훨씬 정확한 표현인 ‘초지능’으로 변경하겠다고 언급했다. 중국 외교부는 9월 26일 미국 측 입장을 중시하고 그 용어 선택을 존중한다며, 향후 소통을 통해 공감대를 모색하겠다고 밝혔다.

이번 합의는 양국이 AI 개발 속도 조절 요구에 모두 반대하는 기조 속에서 이뤄졌다. 트럼프 대통령은 9월 22일 UN 총회 연설에서 산업혁명보다 거대해질 기술 성장을 억누르지 않겠다고 강조했다. 중국 외교부 궈자쿤 대변인도 9월 14일 정례 브리핑에서 미국 AI 기업 최고경영자들의 속도 조절 요구에 반대했다. 그는 각종 위협 서사를 퍼뜨리고 대결과 악성 경쟁을 벌이는 행위는 AI 글로벌 거버넌스 과정을 방해할 뿐이며, 어느 쪽의 이익에도 부합하지 않는다고 반박했다.

다만 양국의 AI 거버넌스 구상에는 차이가 있다. 트럼프 대통령은 9월 22일 UN 총회 연설에서 AI를 통제하려는 글로벌 구상을 거부했다. 반면 중국은 합의에 기반한 거버넌스 체계를 촉구했다. 푸충 UN 주재 중국 상임대표는 9월 23일 UN 안전보장이사회 회의에서 AI 글로벌 거버넌스 체계 구축을 촉구하며, UN을 글로벌 AI 거버넌스의 주요 무대로 지지했다.


미국 의회, 잇단 AI 규제 발의에도 입법은 정체​​

<뉴욕타임스>가 9월 15일 보도한 바에 따르면, 미국 의회는 지난 2년간 AI의 안전과 안보, 경제적 위협에 대응하는 법안을 다수 발의했으나 입법은 정체된 상태다. 트럼프 대통령은 6월 행정명령으로 첨단 AI 모델에 대한 정부 검토 체계를 마련했다. 다만 이는 AI 개발사의 자발적 참여에 기반하며, 행정명령은 AI 모델 개발·출시에 의무적 허가나 사전승인 요건을 만들지 않는다고 명시했다. 신문은 이러한 자발적 체계가 정부의 AI 시험·검토·중단 권한을 강화하려는 입법 시도로 이어졌다고 분석했다. 테드 리우 하원의원은 AI 모델이 예상보다 훨씬 빠르게 발전하지만 연방 차원의 AI 규제는 사실상 ‘전무’하다고 지적했다.

의회에서는 AI 기업에 안전 보고와 감사 의무를 부여하거나 위험한 AI 모델의 작동을 중단하기 위한 법안이 발의되거나 준비되고 있다. 하원의 제이 오버놀트 공화당 의원과 로리 트라한 민주당 의원이 7월 발의한 ‘프런티어법’은 AI 기업에 안전 보고서 공개와 독립 감사 의무를 부과한다. 테드 리우 민주당 의원과 너새니얼 모런 공화당 의원은 위험한 AI 모델을 정지하거나 제한하는 ‘킬 스위치’ 탑재 의무화 법안을 추진한다. 상원에서는 존 튠 공화당 원내대표와 에이미 클로버샤 민주당 의원이 생물학적 위협과 핵 위협 등 파국적 위협에 대응하는 법안을 준비하고 있다.

국가안보와 경제적 여파, 일자리·금융시장 관련 법안도 발의됐다. 초당적 ‘첨단 AI 안보 대비법’은 국가안보국에 데이터센터 취약점과 외국 적대세력의 기술 탈취에 대한 대응책 마련을 명시한다. 버니 샌더스 상원의원은 상장을 앞둔 오픈AI와 앤트로픽 등 AI 기업 지분을 정부가 확보해 배당 수익을 국민에게 지급하는 법안을 마련하고 있다. 엘리자베스 워런 상원의원은 AI 거품 붕괴 위험에 대비한 ‘AI 거품 투명성법’으로 금융당국 자료 확보 강화를 추진한다.

그러나 트럼프 대통령이 새로운 AI 규제에 반대하는 가운데 대부분 법안은 상·하원 다수당인 공화당 의원의 주목을 받지 못하고 계류 중이다. 공화당 애나 파울리나 루나 하원의원은 AI 경쟁에서 중국에 뒤처질 수 있다는 우려와 의원들의 기술 이해 부족을 입법 정체 요인으로 지적했다.


중국 최고인민법원, AI 분쟁 처리 사법 지침 발표​​

중국 최고인민법원은 9월 7일 AI 관련 불법행위와 지식재산권 문제 등 AI 분쟁의 재판 기준을 규정한 사법 지침을 발표했다. 지침은 딥페이크와 음성 복제, 알고리즘 기반 가격 차별, AI로 생성된 허위 정보, 지식재산권 등 다양한 신규 분쟁을 포괄한다. 민법과 사이버보안법, 저작권법, 개인정보보호법 등 현행 중국 법률에 근거해 AI 관련 사건 책임 소재를 처리하는 원칙과 규칙을 제시했다. <인민일보>는 이번 지침이 최고인민법원이 발표한 첫 AI 분쟁 사법 규칙이며, AI 법이 부재한 가운데 신기술로 인한 법적 쟁점에 대응하기 위해 마련됐다고 보도했다.

지침에 따르면 개인의 얼굴이나 목소리를 무단으로 활용해 AI가 생성한 디지털 형상은 인격권 침해에 해당할 수 있다. 허가 없는 음성 복제 역시 음성권 침해로 간주한다. AI가 생성한 얼굴이나 목소리를 악용해 허위 정보를 유포하거나 타인의 명예를 훼손하는 행위에는 법적 책임을 물을 수 있다고 명시했다. 사망자의 디지털 형상 제작으로 사망자의 권리가 침해되면 유족이 민사 책임을 물을 수 있다. 앞서 베이징 인터넷 법원은 2024년 4월 중국 최초의 AI 음성 복제 침해 사건에서 동의 없이 AI를 이용해 개인의 식별 가능한 목소리를 재현하는 행위는 권리 침해에 해당한다고 판결했다.

지침은 인격권과 개인정보 권익, 소비자 권익 침해 등 AI 관련 침해에 대한 법적 책임을 사업자, 생성형 AI 서비스 제공자, 사용자 등 주체별로 명확히 규정했다. 합리적 이유 없이 같은 상품이나 서비스에 서로 다른 가격이나 거래 조건을 제시하기 위해 알고리즘을 활용한 사업자는 소비자 피해가 발생하면 법적 책임을 질 수 있다. 생성형 AI 서비스 제공자는 자사 시스템이 생성한 콘텐츠가 개인의 권리를 침해한다는 사실을 통보받은 뒤 적시에 조처하지 않으면 법적 책임을 져야 한다. 사용자도 의도적으로 AI 시스템을 조작해 타인에게 해를 끼치는 불법 콘텐츠를 생성하도록 유도하고 손해를 끼쳤다면 불법행위에 대한 책임을 져야 한다.


AI 개발 속도 조절에 업계 찬반 엇갈려​​

다리오 아모데이 앤트로픽 최고경영자(CEO)는 개인 홈페이지를 통해 프런티어 모델 개발 속도 조절을 촉구하며 3단계 방안을 제안했다. 1단계는 각 선도 AI 기업이 기업 내부에 상주하는 제3자 평가팀에 자사 직원에 준한 접근 권한을 부여하는 것이다. 평가팀은 안전 관행과 서약 준수 여부를 점검하고 사고를 보고하며, 완성된 AI 모델뿐 아니라 학습 파이프라인과 프로세스 정렬 평가를 지원한다. 앤트로픽은 단독으로 해당 조치를 시행하기로 했다.

2단계는 민주주의 진영 내 선도 AI 기업이 공통의 안전 기준을 마련하고, 통제되지 않은 AI 발전 속도에 제한을 두도록 협력하는 것이다. 다만 법적 어려움이 따를 수 있어 정부 지원이 필요하다. 3단계는 국제 협력이다. 미국을 포함한 민주주의 국가는 가능한 선에서 권위주의 국가와 협력을 모색해야 한다는 내용이다. 그러나 협력 준수 여부를 검증하기 어렵다는 한계도 있다.

아모데이 글이 공개된 직후 일론 머스크 스페이스X CEO와 샘 올트먼 오픈AI CEO 등 경쟁사 수장들도 속도 조절 제안에 동의했다. 머스크는 자신의 X 계정에서 해당 글을 인용하며 다리오가 옳다고 짧게 언급했다. 올트먼 역시 X를 통해 프런티어 속도 조절이 필요하다는 데 동의했다. 데미스 하사비스 구글 딥마인드 공동창업자 겸 의장이자 알파벳 수석과학자는 X에서 세부 사항은 다듬어야 하지만, 현재의 중대한 시점에 대응하기 위한 방향은 옳다고 평가했다.

반면 젠슨 황 엔비디아 CEO는 AI 파멸론에 과학적 근거가 없고, 안전 문제는 엔지니어링으로 해결할 수 있다는 견해를 보였다. 그는 최근 여러 공개석상에서 AI 위험이 과장됐다는 생각을 밝히며, AI 안전 문제의 해법은 전통적 방식의 엔지니어링이라고 강조했다. AI 관련 사건이 있었지만, 다행히 아무런 피해를 일으키지 않았다고도 언급했다. 황 CEO는 모델 개발사가 출시 전에 자사 제품 안전을 확보할 책임이 있다고 강조했다. 또한 AI 안전을 위해 기존 법이 충분하다며, 새로운 AI 안전법과 규제에는 회의적인 태도를 보였다.


글
​ / 이승한
사진​ / Pexels, AI 생성 이미지​


MAGAZINE LIST
 
2026-11-19
THINKFORBL 사보 기술 파트 64호
최신 인공지능(AI) 동향
Thinkforbl
 
We think for a better life.