앤트로픽, 클로드 악용 시도 적발…이란 세력 미 군함 추적

앤트로픽이 자사 AI 모델을 둘러싼 국가 연계 위협의 실태를 담은 보고서를 공개했다. 이란·예멘·중국·러시아와 연결된 세력이 클로드를 무기 개발과 감시, 표적 추적에 활용하려다 적발된 과정이 코드명과 함께 기록돼 있다.

이란 연계 세력, 클로드로 중동 주둔 미 해군 함정 동선 추적

AI 오남용 감지·대응 보고서는 앤트로픽이 자사 모델을 악용하려는 시도를 감지하고 대응한 사례를 정리한 공개 문서다. 이번 154쪽 보고서에는 코드명 GTG-30005로 식별된 이란 연계 위협 세력의 활동이 대표 사례로 실렸다.

이 세력은 공개된 군사 사진 캡션에서 추출한 미군 명단, 군함·항공기 위치 데이터, 상업용 위성사진 등을 종합해 중동에 주둔한 미 해군 함정의 동선을 추적했다. 이어 클로드를 활용해 함정의 통신·제어 시스템 보안 취약점을 집중 연구하고 공격 표적 추천서를 작성하려 한 것으로 나타났다.

앤트로픽은 이 같은 공작을 사전에 적발해 관련 계정을 정지시켰고, 정부 당국에 위협 정보를 공유했다고 밝혔다. 사건 이후 악용 위험을 줄이기 위한 감시 도구도 별도로 개발했다.

후티는 유도무기 소프트웨어, 러시아는 자율살상 드론 군집 시도

보고서에는 이란 외 다른 국가 연계 세력의 시도도 담겼다. 예멘 후티 반군 연계 세력(GTG-87001)은 클로드로 사거리 2천km 이상의 다단계 탄도 미사일과 극초음속 활공체를 포함한 유도 무기 소프트웨어를 개발하려 했다.

러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율살상 드론 군집을 구축하려 시도했고, 아프리카 국가를 겨냥한 친러 성향 선전물 유포에도 모델을 활용했다. 중국 정부 연계 세력은 시리아 내 위구르족을 추적·감시하고 아시아 전역의 종교 지도자를 내사하는 데 클로드를 쓰려 한 것으로 조사됐다.

특정 국가 연계 세력이 클로드로 치명적인 생물 무기를 개발하려다 차단된 사례도 보고서에 언급됐다. 다만 앤트로픽은 해당 국가와 정부가 누구인지는 구체적으로 밝히지 않았다.

안전장치가 막지 못한 우회 시도…재앙적 결과 경고

클로드는 악의적 해킹과 생물·화학 무기 제조 등에 모델이 쓰이지 않도록 안전장치를 두고 있다. 그러나 문제가 된 세력들은 이런 제한을 우회하기 위해 자신의 의도를 숨기고 반복적으로 시도를 이어간 것으로 드러났다.

앤트로픽은 “안전장치가 요청 다수를 차단했으나 전부 차단하지는 못했다”고 설명했다. 회사는 “적절한 안전장치가 없다면 이런 능력은 재앙적인 결과를 초래할 수 있다”고 경고했다.

국가 연계 세력의 공격이 정교해질수록 개별 기업의 차단만으로는 한계가 있다는 지적이 나오는 이유다. 연합뉴스 보도에 따르면 위협 세력들은 모델의 제약을 파악한 뒤 표현을 바꿔가며 접근을 반복했다.

계정 정지·당국 공유에 이은 감시 도구 개발이 남은 대응

앤트로픽의 대응 절차는 크게 사전 적발, 계정 정지, 정부 당국 정보 공유, 감시 도구 개발의 네 단계로 정리된다. 이번 사건에서도 회사는 이란 연계 계정을 즉시 정지하고 위협 정보를 당국에 넘겼다.

회사는 보고서에서 조사 결과가 다른 AI 개발사들이 유사한 패턴을 포착하고 정부와 시민사회가 새로운 위협의 형성 과정을 명확히 파악하는 데 도움이 되기를 바란다고 밝혔다. 개발사 간 정보 공유와 공동 방어막 구축이 다음 과제로 제시된 셈이다.

AI 모델의 군사·감시 활용 시도가 공개 사례로 잇따라 확인되면서, 각국 정부의 규제 논의와 기업의 투명성 보고가 어떻게 맞물릴지 주목된다. 안전장치의 실효성을 검증할 수 있는 외부 감사 체계가 함께 갖춰질지가 관전 포인트다.