KNOWLEDGE

최신 인공지능(AI) 동향​

미 백악관, AI 사전심사 대상 개방형 모델까지 확대 검토​​

미국 백악관이 사이버보안·해킹 분야에서 최첨단 폐쇄형 인공지능(AI) 모델을 정부 사전심사 대상으로 삼는 지침을 확정했다. 8월 4일 업계에 비공개로 설명한 지침에 따라서 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글 등은 정부의 사전심사 대상에 포함될 전망이다. 반면 엔비디아(NVIDIA)를 비롯한 개방형 모델 개발사는 초기 심사 대상에서 빠졌다. 백악관이 사전심사 기준을 공개할 계획이 없는 것으로 알려지자, 일부 의원과 전문가가 투명성 문제를 제기하며 정보공개를 청구했다.

AI 모델 사전심사 제도는 트럼프 대통령이 6월 2일 발표한 행정명령 핵심으로 오픈AI는 지침 확정을 기다리며 신모델 출시를 연기했고, 앤트로픽은 백악관이 제기한 보안 우려에 미토스(Mythos) 2개 버전 배포를 중단했다.

심사 범위는 달라질 수 있다. IT 전문매체 와이어드(WIRED)는 백악관이 개방형 모델까지 포함하도록 지침을 개정하는 방안을 검토 중이라고 관계자를 인용해 보도했다. 개방형 모델이 최첨단 폐쇄형 모델에 버금가는 성능에 도달하면 같은 절차를 적용하겠다는 취지다. 중국 기업이 주도하는 개방형 모델 성능이 빠르게 향상되고 있다는 평가도 논의 배경으로 제시됐다.

정부 안에서도 심사 방식에 대한 의견이 엇갈린다. 폐쇄형 모델만 규율하면 기업이 승인을 받지 않은 개방형 모델 사용을 꺼릴 수 있다고 우려하는 반면, 출시 30일 전 심사를 의무화하면 개발 속도가 늦어질 수 있다는 지적도 나온다. 일부 부처는 현재 제도가 불분명하다며 주요 AI 연구소와 더 긴밀한 협력 체계를 구축할 것을 요구하고 있는데, 주요 AI 연구소가 향후 테스크 공식 파트너로 참여할 가능성도 대두되고 있다.

AI 연구자 1300여 명 “개발 속도 조절할 국제 공조 필요” 

세계 주요 AI 기업 연구자 1300여 명이 미국 정부에 AI 개발 속도를 조절할 수 있는 기술·정책 수단 마련을 촉구했다. 오픈AI, 앤트로픽, 구글 딥마인드, 메타 등의 연구자가 참여한 공개서한 ‘Pacing the Frontier’는 AI 역량이 인간의 이해와 통제 범위를 벗어나 빠르게 발전하는 위험을 제기했다. 그러면서 새로운 위험을 파악하고 안전조치와 감독체계를 갖출 시간을 확보해야 한다고 주장했다.

서한은 한 기업이 경쟁사보다 개발 속도를 자발적으로 늦추기 어려운 현실도 짚었다. 이에 연구자들은 자동화된 AI 개발 최전선에서 속도를 조절할 수 있도록 미국 정부가 국제적 노력을 지원해 달라고 요청했다. 서명자에는 오픈AI 수석과학자 야쿠브 파초키(Jakub Pachocki)와 앤트로픽 공동창업자 재러드 캐플런(Jared Kaplan)·잭 클라크(Jack Clark)와 다리오 아모데이(Dario Amodei) 앤트로픽 CEO 등이 포함됐다. 오픈AI 공동창업자 출신으로 AI 기업 씽킹 머신즈(Thinking Machines)를 창업한 존 슐만(John Schulman)은 정부 개입에 앞서 기업의 자발적인 조절 장치가 필요하다는 의견을 덧붙였다.

오픈AI와 앤트로픽은 서한의 취지에 공감을 표하고 미국 정부가 주도하는 국제 공조에 협력할 뜻을 밝혔다. 샘 올트먼(Sam Altman) 오픈AI 최고경영자는 사회가 새로운 AI 역량에 적응할 시간을 위해 개발 속도 조절이 필요할 수 있다고 말했다. 구글과 메타는 서한에 답하지 않았으나, 구글 딥마인드의 데미스 하사비스(Demis Hassabis) 최고경영자는 앞서 첨단 AI 모델의 기준 설정을 도울 국제 표준 기구 설립을 촉구한 바 있다.

오픈AI, 사이버 위협 우려에 차세대 모델 훈련 2주 중단​​

오픈AI가 AI 개발 플랫폼 허깅페이스 침해 사고와 차세대 모델 ‘Astra’의 사이버 위협 역량을 고려해 배포 예정 모델의 강화학습 훈련을 2주간 중단했다. 회사는 Astra 역량이 자체 ‘대비 프레임워크’에서 정한 ‘치명적’ 수준에 이를 수 있다는 예비 증거를 확보했다고 밝혔다. 이에 따라 연구 환경의 보안을 강화하고 위험한 활동을 감시할 범위도 넓히기로 했다.

사고 이후 오픈AI는 연구 클러스터에서 코드를 실행하거나 인터넷에 접근하는 도구를 사용하는 최첨단 모델 추론을 일시 중단했다. 모델이 만든 코드나 신뢰할 수 없는 코드를 실행하는 작업은 더 엄격히 격리했는데, 위험도가 높은 작업의 인터넷 접근을 제한할 계획이다. 아울러 공유 서비스와 상시 권한을 줄이는 한편 모의 공격으로 보안 경계가 제대로 작동하는지도 점검한다. Astra와 사이버 모델 관련 작업 일부는 새 보안 기준을 충족할 때까지 중단된다.

모델 행동을 살피는 체계도 강화한다. 오픈AI는 도구 사용과 추론 과정 등을 단계적으로 분석해 무단 접근이나 데이터 탈취, 안전장치 우회 시도를 탐지하고, 문제 행동 발견 후 30분 안에 경고를 발령하는 것이 목표로 설정됐다. 또한 평가 허점을 이용하는 ‘보상 해킹’과 기만행위에 대응하기 위해 훈련 과정의 더 많은 단계에 정렬 기법을 적용할 방침이다.

기업 AI 활용, 질문·답변에서 업무 수행으로 이동​

기업의 인공지능(AI) 활용이 업무를 직접 수행하는 에이전트 중심으로 옮겨가고 있다는 분석이 나왔다. 오픈AI가 자사 기업 고객의 사용 양상을 살펴본 결과, 6월 기준 Codex와 챗GPT에서 생성된 전체 출력 토큰의 64%가 Codex에서 나왔다. 같은 도구를 쓰더라도 활용 수준 차이는 벌어졌다. 활성 사용자당 출력 토큰을 기준으로 상위 10% 기업의 사용량은 중위권 기업 8.3배로, 1월의 2.6배보다 격차가 확대됐다.

차이는 고급 기능에서도 나타났다. 선도기업에서는 주간 활성 사용자 21%가 플러그인을 사용했지만, 일반 기업 비율은 9%였다. 소프트웨어 개발에서 시작된 Codex 사용은 다른 직무로도 퍼졌다. 2월 이후 주간 활성 사용자 수가 법무 분야에서 108배, 영업과 채용에서 각각 41배, 마케팅에서 26배 늘었다. 도입 6개월 뒤에는 경력이 짧은 직원이 경영진보다 AI에 일주일 평균 13건 더 많은 메시지를 보내는 것으로 분석됐다.

오픈AI는 기업 간 격차를 줄이려면 개별적인 활용 사례를 조직 전체의 업무 형식으로 발전시켜야 한다고 설명했다. 에이전트를 실제 업무 환경과 도구에 연결하되, 사용할 수 있는 권한과 관리 기준을 명확히 하고 사람이 결과를 검토하는 체계도 함께 마련해야 한다는 제안이다.

글​ / 이승한
사진​ / Pexels​