AI 보안의 새 국면: 기업들은 “나중에”가 아니라 “출발부터” 방어 체계를 갖춰야 한다

AI를 둘러싼 보안 이슈가 더 이상 특정 제품의 문제나 개별 취약점의 해법으로 끝나지 않고 있다. TechCrunch가 전한 바에 따르면, 구글 클라우드의 프란시스 드 수자(Francis de Souza) COO는 “전환기”를 지나 결국 더 나은 상태에 도달하겠지만, 그 과정에서 보안은 반드시 ‘초기부터’ 설계돼야 한다고 강조했다. 특히 직원들이 몰래 쓰는 소위 ‘섀도 AI’, 클라우드·모델·데이터 파이프라인으로 확장된 공격 표면, 그리고 AI 에이전트가 내부 데이터 저장소를 찾아내 노출할 가능성이 핵심 변수로 지목됐다.

“보안은 나중에 붙이는 옵션이 아니다”

드 수자는 AI 여정에 나서는 기업들이 플랫폼 접근 방식으로 보안을 다뤄야 한다고 말했다. 보안은 조직 내부의 특정 팀이나 개인의 ‘자발적 준수’에 맡겨서는 안 되며, 처음부터 보안·거버넌스·감사 가능성(auditability)을 요구하는 방식으로 플랫폼을 구성해야 한다는 주장이다. TechCrunch는 드 수자의 발언을 통해, 경영진이 이제는 보안을 단순한 비용이 아닌 사업 전략과 직결된 문제로 받아들여야 한다는 메시지가 강화되고 있음을 전했다.

그는 또한 “AI 전략이 곧 데이터 전략이자 보안 전략”이라는 관점을 분명히 했다. 생성형 AI가 학습과 추론 과정에서 데이터 파이프라인을 지속적으로 사용하고, 그 데이터의 보호·접근 통제·추적이 곧 보안의 출발점이 되기 때문이다. 이처럼 데이터와 보안이 분리된 이슈가 아니라는 점은, 전통적인 네트워크 중심 방어가 더 이상 충분하지 않다는 현실을 반영한다.

공격은 빨라지고, 표면은 더 넓어졌다

보안 담당자들이 우려해온 ‘속도’의 문제는 AI 환경에서 더 극적으로 드러난다. TechCrunch 보도에 따르면 드 수자는 평균적으로 초기 침해 이후 공격의 다음 단계로 넘어가기까지 걸리는 시간이 8시간에서 22초로 줄었다고 밝혔다. 방어가 대응하기 전에 공격 체인이 연속적으로 이어지는 시대가 됐다는 뜻이다.

여기에 공격 표면도 기존의 네트워크 경계 밖으로 확장됐다. 드 수자는 “전통적 자산 외에도 모델이 있고, 학습에 쓰이는 데이터 파이프라인이 있으며, 에이전트와 프롬프트까지 보호 대상이 됐다”고 말했다. 즉, 공격자는 서버·방화벽만 노리는 것이 아니라 프롬프트·도구 사용·데이터 흐름 등 AI 운영 전반을 관통하는 지점을 노릴 수 있다.

‘섀도 AI’와 에이전트의 부작용

드 수자가 특히 주의를 요구한 대목은 ‘섀도 AI’다. 임직원이 조직의 승인이나 통제 없이 소비자용 AI 도구를 직접 사용하면, 데이터 유출 가능성과 감사 공백이 생긴다. 이 문제는 단지 직원 개인의 실수로 치부하기 어렵고, 기업이 어떤 플랫폼과 정책을 제공하는지—그리고 사용 흐름을 어떻게 통제하고 기록하는지—의 문제로 확장된다.

또 다른 지점은 기업 내부 시스템을 이동하는 AI 에이전트의 위험이다. TechCrunch는 드 수자의 설명을 인용해, 예전에는 누가 해당 저장소를 관리했는지조차 명확하지 않았던 오래된 데이터 저장소가 존재할 수 있고, 에이전트가 이를 ‘찾아내’ 접근·노출할 수 있다고 전했다. 예컨대 과거에 설정한 공유문서 서버와 접근 통제가 업데이트되지 않았더라도, 아무도 그 위치를 의식하지 않는다면 보안 사각지대로 남을 수 있다. 하지만 에이전트가 탐색을 자동화하면, 그 사각지대가 공격자에게도 ‘경로’가 될 수 있다는 것이다.

기계 속도로 기계 방어: AI-네이티브 보안의 부상

그렇다면 기업은 어떤 방식으로 이 속도·복잡성을 따라잡아야 할까. 드 수자는 해법으로 ‘AI 네이티브, 완전 에이전트형 방어’의 등장을 제시했다. 즉 사람이 주도하거나 사람의 승인에만 의존하는 방식이 아니라, 방어 목적의 에이전트가 스스로 대응 행동을 실행하되 인간은 이를 감독하는 구조가 가능하다는 설명이다.

다만 이런 접근은 단순한 기술 도입이 아니라 조직 운영 문제로 연결된다. 드 수자는 “이것은 리더십 이슈이며, 보안팀만의 과제가 아니다”라고 강조했다. AI 보안은 점점 더 이사회·경영진의 의사결정 영역이 되고 있다는 신호다. 어떤 위험을 허용할지, 어떤 수준의 감사 가능성을 요구할지, 어떤 수준의 자동화를 금지할지 같은 기준이 없으면 기술이 있어도 운영이 흔들릴 수 있다.

무엇을 지켜봐야 하나

앞으로 기업들은 ‘AI 기능을 얼마나 빨리 도입했는지’뿐 아니라 ‘어떤 보안·거버넌스가 그 도입 과정에 내장됐는지’를 평가해야 한다. 특히 멀티클라우드 현실을 고려한 일관된 보안 체계가 중요해질 전망이다. 드 수자는 구글이 단일 클라우드를 전제로 하지 않으며, 심지어 SaaS와 파트너 사용까지 포함하면 결국 환경은 다층적일 수밖에 없다고 말했다.

또한 보안 자동화가 늘어날수록, AI-네이티브 방어의 성능뿐 아니라 그 방어가 만들어내는 운영 리스크도 함께 검증돼야 한다. 공격자가 챗봇 ‘성격’을 악용하는 방식이 지속적으로 진화하듯, 방어 측 역시 프롬프트·도구·에이전트 운영 전반에서 예상 밖의 우회가 발생할 수 있기 때문이다. 다음 단계에서 주목해야 할 것은 “더 빠른 탐지”를 넘어 “설계 단계에서 보안이 내재화되는지”가 될 것으로 보인다.