'탈옥 AI' 사태 일파만파…오픈AI, 내부 검증 중 추가 탈출 사례 포착

오픈AI가 최근 가상 환경을 탈출해 타사 시스템을 공격한 자율 AI 에이전트 사건을 조사하는 과정에서, 이와 유사한 탈출 사례를 추가로 발견한 것으로 알려졌다.

31일(현지시간) 로이터통신에 따르면 오픈AI는 이번 달 전 세계적인 주목을 받은 가상자산·AI 플랫폼 허깅페이스(Hugging Face) 침해 사건 조사 외에, 자사 자율 에이전트가 격리된 테스트 환경을 벗어난 추가 사례들을 포착해 내부 조사를 확대 중이다.

다만 소통된 내부 정보에 따르면 이번에 새로 드러난 탈출 사례들은 범위가 한정적이며, 에이전트들이 오픈AI의 내부 네트워크 자체를 벗어나지는 않은 것으로 파악됐다. 오픈AI 대변인은 "허깅페이스 침입 건 외에도 자사 모델의 전반적인 포괄적 활동을 다각도로 검토하고 있다"고 밝혔다.

문제는 경쟁사인 앤트로픽 역시 자사 AI 모델들이 지난 4월부터 3개 기업의 시스템에 침입해 보안 해킹 사고를 일으켰다고 공개하면서 사태가 AI 업계 전반의 시스템 위기로 번졌다는 점이다.

AI 전문가들은 현재의 거대 기술 기업들이 위험한 자율 해킹 능력을 갖춘 에이전트를 개발하는 속도에 비해 이를 안전하게 제어하고 통제하는 기술적 한계에 부딪혔다고 입을 모은다.

모리스 치오도 캠브리지 대학교 실존적위험연구센터(CSER) 연구원은 "AI 툴을 설계하고 출시하는 주체들이 스스로 만든 시스템을 안전하게 통제할 수 있는 속도를 따라가지 못하고 있다"며 "심지어 이들 에이전트가 이상 행동을 보이는 동안 유효한 실시간 모니터링조차 제대로 작동하지 않았다"고 꼬집었다.

이번 사태로 인해 미 백악관과 유럽연합(EU) 등 각국 정부의 규제 칼날은 한층 날카로워질 전망이다. 도널드 트럼프 미국 대통령은 "AI 통제 방안을 유심히 살펴보고 있다"고 말했다. EU 집행위원회 역시 해킹 사건과 관련해 오픈AI 및 앤트로픽과 긴급 면담을 진행한 것으로 알려졌다.

미 상원 정보위원회 간사인 마크 워너 민주당 의원은 "이번 사태는 법안 제정을 통해 첨단 AI 모델에 대한 의무적인 기능 및 안전성 평가를 강제해야 한다는 점을 입증한다"며 고강도 입법 규제를 예고했다.