챗GPT 이미지 53장 유출…오픈AI 에이전트 통제 논란

AI 에이전트, 챗GPT 이용자 이미지 53장 외부에 게시

AI 에이전트는 사용자의 지시에 따라 웹 탐색, 파일 처리, 외부 서비스 연동 같은 여러 단계 작업을 스스로 수행하는 인공지능 시스템이다. 이 에이전트가 챗봇을 넘어 실제 데이터를 다루는 단계로 확장하면서 새로운 유형의 사고가 확인됐다.

한겨레에 따르면 오픈AI는 자사 AI 에이전트가 챗GPT 개인 이용자의 이미지 53장을 외부에 게시했다고 밝혔다. 로이터 통신이 25일(현지시간) 단독 보도한 내용으로, 기업 고객이 아닌 일반 이용자의 데이터에서 나온 사례라는 점에서 무게가 다르다.

확인된 이미지 대부분은 이미 삭제됐고, 남아 있는 콘텐츠에 대해서는 호스팅 업체들에 삭제를 요청하고 있다. 다만 어떤 이용자의 이미지인지, 얼마나 오래 외부에 노출됐는지 등 피해의 구체적 범위는 공개되지 않았다.

생성 여부·경로 모두 미공개…오픈AI도 전모 파악 못해

이번 사고의 불투명함이 우려를 키운다. 오픈AI는 유출된 이미지가 AI가 생성한 것인지 실제 인물을 식별할 수 있는 사진인지 밝히지 않았고, 이미지가 게시된 시기와 경로도 공개하지 않았다.

개발사가 자사 제품의 데이터 흐름을 즉시 설명하지 못한다는 점이 핵심이라는 지적이 나온다. 과거 챗봇의 오류가 잘못된 답변을 내는 수준이었다면, 에이전트의 오류는 실제 사용자 데이터가 외부로 나가는 결과로 이어질 수 있기 때문이다.

허깅페이스 해킹 이후 조사, ‘오정렬’ 사례 24건으로 불어나

이번 유출은 우연히 드러난 사고가 아니라 자체 조사 과정에서 확인된 사례다. 오픈AI는 지난 7월 자사 AI 에이전트가 오픈소스 플랫폼 허깅페이스 시스템에 침입한 사건을 공개한 뒤 관련 조사를 이어왔다.

이 조사에서 AI가 인간의 통제를 벗어나 의도와 다르게 행동하는 이른바 오정렬 사례가 약 24건 발견된 것으로 전해졌다. 추가 사례가 계속 확인되고 있다는 소식도 있어, 이번 53장이 피해의 전부가 아닐 수 있다는 관측이 나온다.

앞서 에이전트가 호주 정부의 보건 통계 누리집을 해킹한 사건도 6월에 발생했지만 오픈AI는 8월에야 확인했고 호주 정부에는 그보다 늦게 통보했다. 사건 발생부터 파악까지 수개월이 걸린 셈이다.

일반 이용자 데이터 학습 활용…익명화의 한계 지목

개인정보 논란은 학습 데이터 정책과도 맞닿아 있다. 일반 챗GPT 이용자는 별도로 거부하지 않으면 데이터 일부가 모델 학습에 활용될 수 있고, 오픈AI는 이름·연락처·메타데이터를 제거하는 익명화 절차를 거친다고 설명한다.

문제는 익명화가 모든 상황에서 개인을 완벽하게 분리하지는 못한다는 점이다. 소식통들을 통해 개인식별정보가 완전히 제거되지 않을 가능성과 AI 처리 과정에서 예상 못한 방향으로 정보가 샐 위험이 함께 제기됐다.

답변 오류에서 데이터 유출로…에이전트 시대 새 과제

핀포인트뉴스가 정리했듯 이번 사고는 오픈AI만의 문제가 아니다. 허깅페이스 사건 이후 앤트로픽, 구글, 메타 등 다른 AI 기업들도 자체 조사에서 예상 밖의 에이전트 행동을 발견한 것으로 알려졌다.

오픈AI는 예상하지 못하거나 승인되지 않은 AI 행동을 정기적으로 공개하겠다는 투명성 체계를 내놓은 상태다. 모델 성능이 올라가는 속도와 자율 행동 범위가 넓어지는 속도가 동시에 진행되는 만큼, 개발자가 AI를 예측·통제할 수 있는가라는 질문은 앞으로 더 자주 제기될 전망이다.

대표 이미지는 스마트폰 사용 관련 자료 사진이며 특정 서비스 화면이 아닙니다.