회사에서 반복 업무를 줄여보려고 AI 도구를 제안하면 “좋은데 보안팀 확인은 받았나요?”라는 질문이 돌아온다. 예전에는 조금 답답하게 느껴졌지만 AI 브라우저가 이메일을 읽고 결재 시스템의 버튼까지 누르는 모습을 보면 꼭 필요한 질문이라는 생각이 든다.
AI 브라우저는 직원이 이미 로그인한 웹서비스를 활용한다. 별도의 비밀번호를 알려주지 않아도 메일과 문서, 고객관리 시스템에 접근할 수 있다는 점이 편리하면서도 위험하다.
개인용 브라우저와 위험의 크기가 다르다
개인 여행 일정을 잘못 요약하면 다시 확인하면 된다. 회사 고객에게 잘못된 견적을 보내거나 인사 자료를 외부로 전송하면 되돌리기 어렵다.
브라우저에는 단순한 방문 기록만 있는 것이 아니다. 로그인 세션, 내부 문서, 고객명과 계약 금액, 결재 권한이 한곳에 모여 있다. AI가 읽을 수 있는 탭이 많을수록 편리하지만 사고가 났을 때 노출되는 범위도 넓어진다.
“학습에 쓰지 않는다”만으로는 부족하다
회사들은 흔히 AI 업체가 입력 내용을 학습에 사용하는지를 먼저 묻는다. 중요한 항목이지만 전부는 아니다.
질문과 페이지 내용이 어느 국가의 서버에서 처리되는지, 얼마 동안 저장되는지, 관리자 로그가 남는지, 퇴사자의 권한을 회수할 수 있는지도 확인해야 한다. 개인 계정으로 가입한 AI 브라우저는 회사가 접근 권한과 기록을 관리하기 어렵다.
로컬 AI를 사용하더라도 자동화 에이전트와 외부 검색이 클라우드에 연결될 수 있다. 제품 전체가 아니라 기능별 데이터 흐름을 살펴봐야 한다.
웹페이지의 숨은 명령이 문제가 된다
AI 브라우저는 외부 웹페이지와 회사 내부 정보를 같은 문맥에서 읽는다. 공격자가 페이지에 숨겨둔 지시를 AI가 명령으로 오해하면 이메일이나 문서의 정보를 가져오려 할 수 있다. 간접 프롬프트 인젝션이다.
사람에게는 광고나 빈 공간처럼 보일 수 있어 기존 피싱 교육만으로 막기 어렵다. 회사 메일과 CRM에 접근하는 AI에게 외부 웹사이트 조작 권한까지 동시에 주지 않는 것이 기본 방어다.
자동화하기 좋은 일과 나쁜 일
공개 자료를 모아 초안을 만들고 여러 제품의 사양을 비교하는 일은 비교적 위험이 낮다. 실패해도 사람이 결과를 버리고 다시 만들 수 있기 때문이다.
반면 메일 전송, 계약 변경, 결제, 계정 삭제와 권한 부여는 위험이 높다. AI가 폼을 채우더라도 최종 행동은 담당자가 상세 내용을 확인하고 실행해야 한다. 단순한 확인 버튼 하나보다 수신자·금액·변경 내용을 모두 보여주는 절차가 필요하다.
도입 전에 확인할 일곱 가지
첫째, 회사가 승인한 계정과 브라우저 프로필만 사용한다. 둘째, 개인용과 업무용 로그인을 분리한다. 셋째, 처음에는 공개 웹페이지 읽기 권한만 준다.
넷째, 이메일·문서·캘린더 권한은 필요한 항목만 추가한다. 다섯째, 전송·게시·결제는 자동 실행에서 제외한다. 여섯째, 누가 어떤 작업을 시켰는지 로그를 남긴다. 일곱째, 문제가 생겼을 때 모든 연결을 한 번에 끊고 권한을 회수할 방법을 준비한다.
직원에게 “민감한 정보는 넣지 마세요”라고 말하는 것만으로는 부족하다. 브라우저가 현재 탭을 자동으로 읽는다면 직원이 직접 붙여넣지 않아도 정보가 전달될 수 있기 때문이다.
작은 부서부터 시험해야 한다
전사 기본 브라우저를 한 번에 바꾸기보다 공개 자료 조사처럼 범위가 좁은 업무로 시작하는 편이 좋다. 실제로 줄어든 시간과 발생한 오류, 사람이 검수한 횟수를 기록한다.
AI 브라우저의 도입 기준은 멋진 시연이 아니다. 실수했을 때 피해 범위를 통제할 수 있는가이다. 회사에서는 AI가 얼마나 많은 일을 할 수 있는지보다 하지 못하게 막은 일이 무엇인지가 더 중요한 기능이다.
참고 URL
- https://labs.cloudsecurityalliance.org/wp-content/uploads/2026/05/CSA_research_note_chatgphish_ai_prompt_injection_phishing_20260531-csa-styled.pdf
- AI 브라우저와 업무 도구를 겨냥한 프롬프트 인젝션 사례를 정리한 자료다.
- https://openreview.net/pdf/d53426506f95da009ac4a0cbf80e2a422cf3b883.pdf
- 실제 AI 브라우저의 명령 주입 및 정보 유출 가능성을 비교한 연구다.
- https://arxiv.org/abs/2511.20597
- 브라우저 에이전트의 프롬프트 인젝션 위험과 방어를 다룬 연구다.
해시태그
#AI브라우저 #업무보안 #회사AI #정보보안 #프롬프트인젝션 #개인정보보호 #AI에이전트 #업무자동화 #SaaS보안 #보안가이드 #기업AI #웹보안
관련 글
같은 맥락에서 이어서 읽기 좋은 글들입니다.