ISEC 2026, 자율 AI 보안의 조건 짚었다

ISEC 2026, 이틀간 자율 보안을 집중 논의

ISEC 2026은 인공지능이 위협을 탐지하는 단계를 넘어 대응 절차까지 수행하는 자율 보안의 가능성과 통제 조건을 다룬 사이버보안 콘퍼런스다. 제20회 행사는 8월 11일부터 12일까지 서울 코엑스에서 열렸고, 공식 주제는 ‘AI로 구현하는 자율 보안의 미래’였다.

공식 프로그램에는 마이크로소프트의 에이전틱 보안 비전, AI 기반 취약점 탐지, 자율 침투테스트, 에이전틱 보안관제센터(SOC) 등 AI 관련 세션이 배치됐다. 생성형 AI를 업무에 연결하는 기업이 늘면서 AI를 방어 도구이자 새로운 공격 표면으로 함께 보는 시각이 선명해졌다.

에이전틱 SOC, 탐지에서 도구 선택·대응까지 확장

에이전틱 SOC는 보안 AI가 로그를 요약하는 데 그치지 않고 위협을 판단해 필요한 도구와 대응 순서를 고르는 운영 방식이다. 반복 조사와 경보 분류 시간을 줄일 수 있어 인력이 부족한 보안 조직에 유용하지만, 잘못된 판단이 실제 계정 차단이나 서비스 중단으로 이어질 위험도 있다.

따라서 자율성은 한 번에 넓히기보다 읽기 전용 분석, 대응안 추천, 사람 승인 뒤 실행, 제한된 자동 실행 순으로 단계화하는 편이 안전하다. 실행 권한과 영향 범위를 업무별로 나누면 속도를 얻으면서도 사고 반경을 줄일 수 있다.

AI가 만든 코드와 데이터 이동이 새 공격면 된다

행사 의제는 AI가 방어를 돕는 장면뿐 아니라 AI 도입이 만드는 위험에도 맞춰졌다. 생성형 AI가 작성한 코드의 취약점, 프롬프트를 통한 정보 유출, 외부 모델로 이동하는 기업 데이터, AI 공급망과 제3자 서비스 의존성이 대표적이다.

AI 서비스에는 사용자 질문과 검색 문서, 모델 응답, 외부 도구 호출이 하나의 흐름으로 연결된다. 방화벽 하나로 통제하기 어려운 이유다. 데이터 등급을 정하고 최소 권한을 부여하며 모델이 어떤 근거로 어떤 도구를 호출했는지 추적할 수 있어야 한다.

사람의 승인과 복구 절차가 자율 보안 성패 가른다

자율 보안의 평가는 탐지율만으로 끝나지 않는다. 오탐이 업무를 중단시킨 비율, 사람에게 넘겨야 할 사건을 정확히 구분했는지, 사고 뒤 판단 과정을 재현할 수 있는지를 함께 봐야 한다. 모델이나 외부 서비스 장애 때 수동 운영으로 전환할 준비도 필요하다.

기업은 AI에 맡길 의사결정의 상한선을 먼저 정해야 한다. 계정 잠금이나 네트워크 격리처럼 영향이 큰 조치는 이중 승인 대상으로 남기고, 자주 반복되는 저위험 대응부터 자동화하는 접근이 현실적이다. ISEC 2026이 보여준 핵심은 더 강한 AI보다 통제 가능한 AI가 보안 운영의 다음 기준이라는 점이다.