트럼프 행정부, 오픈AI·앤트로픽·구글 백악관 소집…AI 안전성 검증 체계 논의

도널드 트럼프 미국 행정부가 오픈AI, 앤트로픽, 구글 등 주요 인공지능(AI) 기업들을 백악관으로 불러 새로운 AI 안전성 검증 체계 마련에 나선다.

3일(현지시간) 블룸버그에 따르면 트럼프 행정부는 이날 백악관에서 오픈AI, 앤트로픽, 구글 등 주요 AI 기업들과 회의를 열고 AI 모델에 대한 자율 안전성 검증 프레임워크를 공개, 관련 내용을 논의할 예정이다.

이번 프레임워크는 트럼프 대통령이 지난 6월 서명한 AI 사이버보안 행정명령에 따라 마련됐다. 기업이 자발적으로 AI 모델 안전성 평가에 참여하는 방식을 채택했으며, 국가 핵심 전산망 보호를 강화하는 내용도 담겼다. 다만 프레임워크는 아직 공개되지 않았다. 행정명령에 따라 일부 안전성 평가 기준은 비공개로 유지될 예정이다.

이번 논의는 최근 AI 보안 우려가 커진 가운데 추진됐다. 앤트로픽은 지난 4월 자사 '미토스(Mythos)' 모델이 컴퓨터 취약점을 탐지하는 능력이 뛰어나다며 공개 범위를 제한한 바 있다.

최근에는 오픈AI와 앤트로픽의 일부 AI 모델이 보안 테스트 환경을 벗어나 외부 기관 시스템에 무단 접근한 사례가 공개되면서 AI 안전성 검증 필요성이 더욱 부각됐다.

업계는 그동안 AI 안전성 심사 기준이 일관되지 않다는 점을 지적해 왔다. 이에 따라 새 프레임워크가 자율 심사 체계의 기준을 통일하는 역할을 할 것으로 기대하고 있다.

트럼프 행정부는 AI 규제 체계 개편도 검토 중이다. 스콧 베선트 미국 재무장관은 금융산업규제기구(FINRA)와 유사한 독립 규제기구를 설립해 기업들이 안전성 평가 과정에 참여하는 방안을 제안한 것으로 알려졌다.

한편 이번 회의는 트럼프 대통령과 시진핑 중국 국가주석의 정상회담을 약 두 달 앞두고 열린다. 양국이 AI 패권 경쟁을 벌이는 가운데 미국은 최근 중국 AI 기업들의 급부상을 예의주시하고 있다. 지난달 중국 스타트업 문샷AI(Moonshot AI)는 저비용 고성능 AI 모델 '키미 K3(Kimi K3)'를 공개했고, 딥시크(DeepSeek)와 알리바바도 잇달아 최신 AI 모델을 출시했다. 이에 미국 정부는 중국 기업들이 엔비디아 첨단 AI 반도체를 불법 확보하거나 미국 AI 모델의 데이터를 증류(distillation) 방식으로 활용했을 가능성도 조사하고 있다.