금융 회사가 SEC에 보안 사고를 공시했는데 범인은...
그냥 직원 하나가 고객 이름이랑 주민번호(SSN)를 승인 안 된 클라우드 AI에 넣고 일한 거였다. 그게 다였다.
방화벽이고 침입 탐지고, 이런 걸로는 못 막는다. 위협이 밖이 아니라 안에서, 그것도 악의 하나 없는 손끝에서 시작됐으니까.
이게 요즘 말하는 Shadow AI(섀도우 AI). 예전 Shadow IT랑은 차원이 다른거 같다.
옛날엔 (어쩌면 단순하게) 데이터가 어디 저장되거나 전송되는 게 위험이었다. 근데 지금은 클라우드 모델이 기업의 민감 데이터를 처리하고, 심하면 학습까지 한다. 한번 나가면 그 데이터가 모델 일부가 돼서 영영 안 돌아온다.
한국의 모 대기업 소스코드 유출 얘기도 유명하다. 엔지니어가 디버깅한다고 독점 소스코드를 클라우드 AI에 붙여넣는 순간, 그 코드는 회사 손을 영영 떠나게 된다. 되돌릴 방법도 없다.
근데 진짜 흥미로운 지점은 여기에 있는데. 직원 열에 여덟(78~90%)이 몰래 클라우드 AI를 쓰고 있는데, 정작 내부 정책이 잘 준비되어 있는 회사는 12%뿐이라는 점.
직원들이 나빠서 그런 게 아니다. 일은 밀려오는데 AI 한번 쓰면 생산성이 33%씩 오른다는데, 안 쓰는 게 오히려 이상한게 아닐까?!
그러니 이건 직원 탓할 문제가 아니다. 회사가 안전한 길을 준비해주지 않은 문제다.
근데 대부분 회사의 이런 사고가 터진 후 첫 대응이 뭐냐면. 그냥 막아 버리는 거다. 사내에서 클라우드 AI 접속 차단. 소위 Prohibition(금지) 정책인데, 이미 실패한 방법이다.
막느다고 해결되지 않더라. 결국 어떻게 되냐면. 개인 폰으로, 퇴근하고 집에서, 아니면 이미 쓰던 SaaS에 슬쩍 얹힌 AI 기능(Embedded AI)으로 더 안 보이게 (어떻게든) 쓴다. 위협이 사라지는 게 아니라 그냥 숨는 거다. 그리고 안 보이는 게 제일 무섭다.
팀 굴려보면서 느낀 건데, 사람은 원래 편한 길로 샌다. 막으면 더 은밀한 샛길을 찾는다. 물을 막으면 넘치고 새는 거랑 똑같다.
그러니 순서를 바꾸는 게 좋다. 막지 말고, 안전한 길을 먼저 까는 방식. 데이터 학습 안 되는 프라이빗 LLM, 데이터가 사내를 안 벗어나는 통제된 환경. 이렇게 해주면 굳이 샛길로 샐 이유가 없어진다.
그래서 보이게 만드는 게 먼저다. 기존 보안 툴(DLP·CASB)은 브라우저로 빠져나가는 프롬프트를 잘 못 잡는다. AI 전용으로 실시간 가시화하고, PII나 소스코드가 프롬프트에 들어가면 걸러주는 관문이 필요하다. 안 보이면 지킬수도 없다.
그리고 교육도 중요하다. 퍼블릭 AI가 데이터를 어떻게 쓰는지, 뭘 넣으면 안 되는지. 금지 목록 던지지 말고, 판단 기준을 손에 쥐여주는게 더 좋다.
아 그리고 비단 이 문제가 보안팀만의 일도 아니다. EU AI Act 같은 규제가 들어오면, 직원이 임의로 AI 쓰다가 회사가 자기도 모르는 새에 AI 배포자(Deployer)로 규제 대상이 되고 과징금을 맞을수도 있다. 이사회가 챙겨야 할 급으로 올라오는 현실적인 문제이다.
막는다고 없어지지 않더라. 그냥 음지로 숨을 뿐.
약점과 비밀은 숨기면 제일 위험하고, 먼저 드러내야 강점이 된다. 몰래 쓰는 걸 억지로 덮지 말고 끌어내서 안전한 길 위에 올리는게 중요한거 같다.
그럼 제일 큰 골칫거리가 강력한 무기가 된다.
(수십년 업계에서 일해보니) 결국 이기는 건 잘 막은 쪽이 아니라, 잘 열어준 쪽이더라.
Recommended Comments