SaaS AI 기능 보안 체크리스트 2026, 업무 문서와 고객 데이터를 AI 기능에 넣기 전 확인할 기준

요즘 SaaS는 별도 AI 도구를 사지 않아도 제품 안에 AI 기능이 들어옵니다. Google Workspace에는 Gemini 기능이 붙고, Microsoft 365에는 Copilot이 들어오며, Slack, Notion, Zoom, Atlassian, Dropbox 같은 업무 도구도 요약, 검색, 작성, 회의록, 자동 분류 기능을 제공합니다.

문제는 AI 기능이 "추가 버튼"처럼 보여도 실제로는 회사 문서, 고객정보, 채팅, 회의록, 파일, 프로젝트 이슈를 읽는 기능일 수 있다는 점입니다. 어떤 기능은 사용자가 볼 수 있는 데이터만 참조하고, 어떤 기능은 외부 모델 제공자에게 요청을 보내며, 어떤 기능은 관리자 설정으로 켜거나 끌 수 있습니다. 그래서 새 SaaS 구매보다 더 작은 변경처럼 보여도, AI 기능을 켜기 전에는 데이터 흐름을 따로 확인해야 합니다.

이 글은 법률, 개인정보보호, 보안 컨설팅이 아닙니다. 작은 팀이 SaaS 안의 AI 기능을 업무에 적용하기 전에 놓치기 쉬운 운영 항목을 줄이는 체크리스트입니다. 실제 적용 전에는 각 서비스의 관리자 콘솔, 계약 조건, 보안 문서, 데이터 처리 약관을 다시 확인해야 합니다.

공식 문서 확인 기준은 2026년 6월 20일입니다.

먼저 결론부터 보면

SaaS AI 기능을 켜기 전에는 아래 15개 항목을 한 표에 남기는 편이 안전합니다.

항목	확인 질문
기능 이름	어떤 AI 기능을 켜는가
사용 목적	요약, 검색, 작성, 번역, 회의록, 자동화 중 무엇인가
데이터 범위	문서, 메일, 채팅, 파일, 회의록, 고객정보가 들어가는가
권한 기준	AI가 사용자가 이미 볼 수 있는 데이터만 참조하는가
관리자 제어	조직 또는 팀 단위로 켜고 끌 수 있는가
학습 사용	입력·출력이 모델 학습에 쓰이는가
외부 모델	제3자 모델 제공자에게 데이터가 전송되는가
보존 기간	프롬프트, 응답, 회의록, 요약이 얼마나 남는가
감사 로그	사용, 설정 변경, 데이터 접근을 확인할 수 있는가
민감 데이터	고객정보, 계약서, 인사, 결제, 보안 문서가 포함되는가
옵트아웃	학습, 기능, 데이터 연결을 끌 수 있는가
사용 가이드	팀원이 넣으면 안 되는 데이터를 알고 있는가
검수 절차	AI 요약과 생성 결과를 사람이 확인하는가
해지·삭제	기능 중단 뒤 데이터와 연결을 회수할 수 있는가
재검토일	30일 후 계속 쓸지 다시 판단할 날짜가 있는가

핵심은 "AI 기능이 안전한가"를 추상적으로 묻는 것이 아닙니다. "이 기능이 우리 팀의 어떤 데이터를 읽고, 어디로 보내고, 얼마나 남기며, 누가 끌 수 있는가"를 확인하는 것입니다.

새 SaaS 전체의 보안 검토는 SaaS 보안 검토 체크리스트에서 다뤘습니다. 새 도구 구매 승인 절차는 SaaS 구매 승인 체크리스트에서 보면 됩니다. 이번 글은 그보다 더 좁게, 이미 쓰거나 새로 사려는 SaaS 안의 AI 기능을 켜기 전 점검에 집중합니다.

AI 기능이 보안 검토 대상이 되는 기준

모든 AI 버튼에 무거운 심사를 붙이면 실무가 느려집니다. 대신 아래 조건 중 하나라도 있으면 최소 검토 대상으로 잡는 편이 현실적입니다.

• 메일, Drive, OneDrive, SharePoint, Dropbox, Notion, Confluence 문서를 읽습니다.
• Slack, Teams, 회의록, 댓글, 티켓, CRM 기록을 요약합니다.
• 고객 이름, 연락처, 주문, 상담, 계약, 인보이스 같은 데이터가 들어갑니다.
• 회의 녹음, 대화록, 화면 공유 내용을 AI가 처리합니다.
• 외부 모델 제공자 또는 하위 처리자에게 데이터가 전송됩니다.
• 관리자 설정으로 기능을 조직 전체에 켤 수 있습니다.
• 프롬프트와 응답이 서비스 안에 기록되거나 검색됩니다.
• AI가 자동으로 문서를 만들고 다른 SaaS에 저장하거나 전송합니다.

반대로 공개 자료 요약, 샘플 텍스트 변환, 개인 학습용 테스트처럼 회사 데이터가 들어가지 않는 작업은 가볍게 시작할 수 있습니다. 판단 기준은 서비스 이름이 아니라 데이터 범위입니다.

1단계: AI가 읽는 데이터 범위부터 분리하기

SaaS AI 기능은 보통 아래 네 가지 중 하나입니다.

유형	예시	먼저 볼 위험
작성 보조	이메일, 문서, 제안서 초안	입력한 문장과 참고 문서
검색·요약	사내 문서 검색, 채팅 요약	사용자가 접근 가능한 전체 문서 범위
회의 AI	회의 요약, 녹취, 액션아이템	참석자 동의, 녹음, 회의록 보존
자동화 AI	티켓 분류, 고객 답변 초안, 워크플로 실행	잘못된 자동 실행과 외부 전송

작은 팀은 처음부터 복잡한 AI 거버넌스 문서를 만들기보다 "AI가 전체 저장소를 검색하는가", "사용자가 직접 넣은 텍스트만 처리하는가", "외부 공유나 자동화가 이어지는가" 세 질문만 고정해도 실수가 줄어듭니다.

특히 검색·요약형 AI는 기능상 편하지만 권한 정리가 안 된 문서까지 찾아낼 수 있습니다. AI 기능을 켜기 전에 팀 SaaS 계정 권한 감사 체크리스트와 팀 파일 공유 보안 체크리스트를 먼저 보는 이유가 여기에 있습니다.

2단계: Google Workspace Gemini는 조직 약관과 제3자 앱 범위를 구분하기

Google Workspace의 생성형 AI 문서는 Workspace 앱에서 Gemini를 사용할 때 조직의 Workspace 계약과 Cloud Data Processing Addendum이 적용된다고 안내합니다. 또한 Gemini 앱의 채팅과 업로드 파일은 허가 없이 사람 검토나 생성형 AI 모델 학습에 쓰이지 않는다고 설명합니다.

출처: Google Workspace Admin Help – Generative AI in Google Workspace Privacy Hub

다만 같은 문서에서도 제3자 앱 사용은 다른 약관이 적용될 수 있다고 구분합니다. 그래서 검토표에는 아래를 나눠 적어야 합니다.

항목	확인 질문
Workspace 앱	Gmail, Docs, Sheets, Meet 안의 Gemini 기능인가
Gemini 앱	조직 계정으로 쓰는 Gemini 앱인가
제3자 앱	외부 확장, 플러그인, 연결 앱이 포함되는가
관리자 설정	조직 단위 또는 사용자 단위 제어가 가능한가
데이터 접근	사용자가 볼 수 있는 파일만 AI가 참조하는가
학습 사용	조직 데이터가 학습에 쓰이지 않는 조건을 확인했는가

Google Workspace를 중심 계정으로 쓰는 팀이라면 AI 기능을 켜기 전에 OAuth 앱 권한, 외부 공유, Drive 접근 범위도 같이 봐야 합니다. 이 부분은 일반 SaaS 보안 검토와 겹치므로 같은 승인표에 넣는 편이 좋습니다.

3단계: Microsoft 365 Copilot은 권한 상속과 enterprise data protection을 같이 보기

Microsoft는 Microsoft 365 Copilot과 Copilot Chat의 enterprise data protection 문서에서 프롬프트와 응답이 Microsoft 365 상용 서비스의 계약 조건과 데이터 보호 약관 아래 보호된다고 설명합니다. 또한 Microsoft가 customer data에 대해 data processor로 작동한다고 안내합니다.

출처: Microsoft Learn – Enterprise data protection in Microsoft 365 Copilot

Microsoft 365 Copilot은 권한 구조가 핵심입니다. Copilot이 "새로운 권한"을 만든다기보다 사용자에게 이미 허용된 Exchange, SharePoint, OneDrive, Teams 데이터 위에서 답을 만들 수 있기 때문입니다. 그래서 Copilot 도입 전에는 아래를 먼저 확인해야 합니다.

• SharePoint와 OneDrive 권한이 최소 권한으로 정리되어 있는가?
• 오래된 공개 링크, 전체 조직 공유 폴더, 퇴사자 소유 파일이 남아 있는가?
• 민감도 레이블과 DLP 정책을 실제로 쓰고 있는가?
• 감사 로그에서 파일 접근과 설정 변경을 확인할 수 있는가?
• Copilot 사용자가 어디까지 검색할 수 있는지 테스트했는가?

Microsoft의 Copilot privacy 문서는 보호된 자료 감지, 프롬프트 인젝션 차단 등 여러 보호 기능을 언급하지만, 운영자가 해야 할 권한 정리를 대신해 주는 것은 아닙니다.

출처: Microsoft Learn – Data, Privacy, and Security for Microsoft 365 Copilot

Microsoft 365를 쓰는 팀은 AI 기능 도입 전에 팀 2단계 인증·SSO 체크리스트와 파일 공유 권한을 같이 점검하는 편이 안전합니다.

4단계: Slack AI는 채널 권한, 보존, 앱 연결을 같이 보기

Slack은 AI 기능 보안 문서에서 Slack의 기본 보안과 개인정보 보호 원칙이 AI 기능에도 적용된다고 설명합니다. Slack의 privacy principles 문서는 Slack AI가 off-the-shelf LLM을 사용하더라도 고객 데이터로 모델을 업데이트하지 않고, 고객 데이터가 Slack의 trust boundary 안에 머물도록 설계한다고 안내합니다.

출처: Slack Help – Security for AI features in Slack

출처: Slack – Privacy Principles: Search, Learning and Artificial Intelligence

Slack AI 검토에서 중요한 것은 "AI가 채팅을 요약한다"가 아니라 어떤 채널과 파일이 AI 요약 대상이 되는가입니다.

항목	확인 질문
채널 범위	고객사·외주·비공개 채널이 포함되는가
파일 링크	Drive, Dropbox, Jira, Notion 링크가 같이 노출되는가
보존 기간	메시지와 파일 보존 정책이 정리되어 있는가
앱 연결	Slack 앱이 다른 SaaS로 요약을 보내는가
게스트	외부 게스트가 있는 채널에서 AI 요약을 쓰는가
로그	앱 설치, 권한 변경, 파일 다운로드를 확인할 수 있는가

Slack은 협업의 중심이라서 작은 설정 하나가 고객 대화, 내부 의사결정, 외부 협력사 채널까지 연결될 수 있습니다. AI 요약 기능을 켜기 전에는 채널 권한과 보존 정책부터 정리해야 합니다.

5단계: Notion AI는 workspace 지식 접근과 subprocessors를 보기

Notion의 AI security practices 문서는 Notion AI가 Customer Data를 보호하고 사용자 간 정보 누출을 막도록 설계됐다고 설명합니다. Notion 제품 페이지와 보안 문서도 고객 데이터가 AI 하위 처리자의 모델 학습에 쓰이지 않도록 계약상 제한을 둔다고 안내합니다.

출처: Notion Help – Notion AI security & privacy practices

출처: Notion Help – Notion's commitment to AI safety

Notion AI를 켤 때는 페이지 권한이 정리되어 있는지 먼저 봐야 합니다. Notion에는 개인 메모, 고객 미팅 노트, 제품 로드맵, 채용 자료, 계약 초안이 한 workspace 안에 섞이기 쉽습니다.

검토표에는 아래를 넣습니다.

• AI가 참조할 수 있는 page와 database 범위가 어디까지인가?
• 전체 workspace 검색이 필요한가, 특정 프로젝트만 필요한가?
• 게스트와 외부 공유 페이지가 AI 검색 결과에 섞일 수 있는가?
• 고객정보나 계약 문서가 있는 database에 접근 제한이 있는가?
• Notion AI 사용 가이드에서 입력 금지 데이터를 정했는가?
• AI가 만든 문서 초안을 누가 검수하고 publish하는가?

Notion은 문서와 데이터베이스가 가까운 도구라서, AI 기능을 쓰기 전에 권한 구조를 먼저 작게 만드는 편이 좋습니다.

6단계: OpenAI, ChatGPT Business, Enterprise는 개인 계정과 팀 계정을 구분하기

OpenAI의 business data privacy 문서는 ChatGPT Enterprise, ChatGPT Business, ChatGPT Edu, API 플랫폼의 입력과 출력이 기본적으로 모델 학습에 쓰이지 않는다고 설명합니다. Enterprise privacy 문서도 business data를 기본적으로 모델 학습에 사용하지 않는다고 안내합니다.

출처: OpenAI – Business data privacy, security, and compliance

출처: OpenAI – Enterprise privacy

하지만 팀 운영에서는 "어떤 상품을 쓰는가"만큼 "누가 어떤 계정으로 쓰는가"가 중요합니다.

상황	운영상 확인
개인 ChatGPT 계정	개인 설정, 개인 결제, 개인 데이터 컨트롤 확인 필요
ChatGPT Business	팀 workspace, 관리자, 사용자 관리, 결제 owner 확인
ChatGPT Enterprise	계약, SSO, 관리 콘솔, 보안 요구사항 확인
API 사용	key owner, 로그, 보존 정책, 앱별 데이터 범위 확인

고객정보, 계약서, 내부 회의록을 다루는 팀이라면 개인 계정에 붙인 임시 사용을 장기 운영으로 두지 않는 편이 좋습니다. AI 구독 비용 자체는 AI 구독료 줄이는 법에서 다뤘지만, 보안 검토에서는 비용보다 계정 소유와 데이터 범위가 우선입니다.

7단계: Zoom AI Companion은 회의 콘텐츠와 제3자 모델 보존을 확인하기

Zoom은 AI Companion 데이터 처리 문서에서 제3자 모델 제공자가 고객 데이터를 모델 개선이나 학습에 쓰도록 허용하지 않는다고 설명합니다. 또한 제3자 모델 제공자에 대해 zero data retention 정책을 둔다고 안내합니다.

출처: Zoom Support – How Zoom AI features handle your data

Zoom AI Companion 검토에서 중요한 것은 회의 데이터입니다. 회의는 문서보다 더 민감할 수 있습니다. 고객 상담, 내부 장애 대응, 채용 면접, 가격 협상, 보안 이슈가 대화로 남기 때문입니다.

확인 항목은 아래처럼 잡습니다.

• 회의 요약과 녹취가 기본으로 켜지는가?
• 참석자에게 AI 기능 사용이 표시되는가?
• 회의록과 요약이 어디에 저장되는가?
• 외부 참석자가 있는 회의에서도 같은 설정을 쓸 것인가?
• 회의 데이터가 다른 SaaS로 자동 전송되는가?
• 녹화, transcript, summary 보존 기간을 정했는가?

회의 AI는 생산성 효과가 빠르지만, 동의와 보존 기준을 정하지 않으면 나중에 삭제와 공유 범위가 애매해집니다. 팀별로 "AI 회의록 허용 회의"와 "수동 메모만 허용 회의"를 나눠 두는 편이 현실적입니다.

8단계: Atlassian Intelligence와 Rovo는 Jira·Confluence 권한부터 보기

Atlassian의 AI Trust 문서는 Atlassian AI 기능이 Atlassian Cloud Platform의 보안과 개인정보 보호 정책을 바탕으로 제공된다고 설명합니다. 또한 데이터 보안, 사용 정책, 관리자 제어 같은 항목을 별도로 안내합니다.

출처: Atlassian – AI Trust

Atlassian 계열 AI 기능은 Jira 이슈, Confluence 페이지, 프로젝트 설명, 댓글, 첨부파일과 연결될 수 있습니다. 개발팀이나 운영팀이 쓰는 데이터는 고객 장애, 보안 결함, 미공개 제품 계획을 포함할 수 있으므로 일반 문서 요약보다 신중하게 봐야 합니다.

검토표에는 아래를 넣습니다.

• AI가 Jira, Confluence, Bitbucket, Trello 중 무엇을 참조하는가?
• project access와 space permission이 최신 상태인가?
• 외주 개발자, 고객사 guest, 퇴사자 계정이 남아 있는가?
• 보안 이슈와 일반 업무 이슈가 같은 프로젝트에 섞여 있는가?
• AI가 생성한 이슈, 요약, 코드 설명을 사람이 검수하는가?
• Atlassian admin이 AI 기능을 조직 정책에 맞게 제어할 수 있는가?

Atlassian은 업무 기록이 오래 쌓이는 도구라서 AI 기능 도입 전 권한 청소 효과가 큽니다.

9단계: Dropbox Dash 같은 AI 검색은 연결 앱과 검색 권한을 확인하기

Dropbox Dash는 여러 업무 앱을 연결해 검색하고 정리하는 AI 기반 기능을 제공합니다. Dropbox Dash security 페이지는 Dash가 보안과 컴플라이언스 기준을 갖추고 있다고 설명하고, Dropbox Trust Center는 AI Transparency 자료를 통해 Dash 기능의 데이터 흐름과 LLM 거버넌스를 안내한다고 밝히고 있습니다.

출처: Dropbox Dash – Security

출처: Dropbox Trust Center

AI 검색 도구는 편하지만 연결 범위가 커질 수 있습니다. Dropbox 파일만 검색하는지, Google Workspace, Microsoft 365, Slack, Notion, Jira까지 연결하는지에 따라 위험이 달라집니다.

확인 질문은 아래와 같습니다.

항목	확인 질문
연결 앱	어떤 SaaS를 Dash나 AI 검색에 연결하는가
권한 모델	원본 앱의 권한을 그대로 따르는가
외부 공유	공유 링크와 외부 폴더가 검색되는가
검색 로그	검색어와 결과 노출 기록을 확인할 수 있는가
관리자 제어	연결 앱을 조직 단위로 제한할 수 있는가
해제 절차	연결 해제 후 토큰과 접근권한이 회수되는가

AI 검색은 "찾기 쉬움"이 장점이지만, 그만큼 잘못 공유된 파일도 빨리 드러납니다. 도입 전에 파일 공유 상태와 퇴사자 권한을 먼저 정리해야 합니다.

팀 사용 가이드는 짧게 시작하기

AI 보안 정책을 처음부터 길게 쓰면 아무도 읽지 않습니다. 작은 팀은 아래 10줄짜리 규칙부터 시작하는 편이 낫습니다.

1. 고객정보, 계약서, 인사, 결제, 보안 문서는 승인된 AI 기능에만 넣습니다.
2. 개인 계정 AI 도구에는 회사 파일을 업로드하지 않습니다.
3. 회의 AI는 외부 참석자와 민감 회의에서 기본 사용하지 않습니다.
4. AI 요약은 원문을 대체하지 않습니다.
5. AI가 만든 고객 답변, 견적, 계약 문구는 사람이 검수합니다.
6. 관리자 콘솔에서 AI 기능 owner와 backup owner를 지정합니다.
7. 학습 사용, 보존 기간, 외부 모델 전송 여부를 공식 문서로 확인합니다.
8. 새 AI 기능은 30일 trial 뒤 계속 사용할지 재검토합니다.
9. 연결 앱은 필요한 범위만 승인하고, 퇴사자 계정은 즉시 회수합니다.
10. 모르는 데이터는 넣지 않고 먼저 owner에게 확인합니다.

이 정도만 있어도 "편해서 써봤다"가 "어디에 무엇을 넣었는지 모른다"로 번지는 일을 줄일 수 있습니다.

30일 파일럿 운영표

SaaS AI 기능은 전사 적용보다 파일럿이 안전합니다.

기간	할 일
시작 전	데이터 범위, owner, 금지 데이터, 관리자 설정 확인
1주차	공개·내부 문서만으로 테스트
2주차	제한된 팀 문서로 요약·검색 품질 확인
3주차	로그, 권한, 보존, 외부 공유 문제 확인
4주차	비용, 사용량, 사고 가능성, 대체 도구 중복 검토
30일 후	계속 사용, 제한 사용, 중단 중 하나로 결정

검토 결과는 SaaS 구매 승인표에 붙여 두면 좋습니다. 비용과 보안 판단이 분리되면, 나중에 왜 기능을 켰는지 설명하기 어렵습니다.

AI 기능에서 따로 봐야 할 세 가지 위험

벤더의 데이터 보호 약속을 확인하는 것만으로는 충분하지 않습니다. 생성형 AI 기능에는 일반 SaaS 보안과 다른 위험이 있습니다.

NIST의 Generative AI Profile은 생성형 AI가 기존 AI 위험을 키우거나 새로운 위험을 만들 수 있다고 보고, 조직 목표와 우선순위에 맞춰 위험을 관리하라고 안내합니다.

출처: NIST – AI RMF Generative AI Profile

NSA가 공개한 Deploying AI Systems Securely 공동 가이드는 외부에서 개발된 AI 시스템을 배포·운영하는 조직이 배포 환경을 보호하고, AI 시스템을 지속적으로 보호하며, 안전하게 운영·유지해야 한다고 설명합니다.

출처: NSA – Deploying AI Systems Securely

작은 팀은 아래 세 가지부터 체크하면 됩니다.

위험	운영 질문
프롬프트 인젝션	외부 문서, 웹페이지, 이메일 내용이 AI 지시문처럼 작동할 수 있는가
민감정보 노출	AI 답변이 고객정보, 내부 문서, 숨겨진 시스템 지시를 드러낼 수 있는가
도구·커넥터 오남용	AI가 Slack, Drive, CRM, 자동화 도구에 쓰기 작업을 할 수 있는가

OWASP의 LLM Top 10은 prompt injection, sensitive information disclosure, insecure output handling 같은 위험을 LLM 애플리케이션의 대표 위험으로 정리합니다. SaaS 내부 AI 기능을 직접 개발하지 않더라도, 외부 문서 요약, AI 검색, 자동화 실행을 쓰면 같은 사고 유형이 생길 수 있습니다.

출처: OWASP – Top 10 for Large Language Model Applications

그래서 AI 기능 파일럿에는 "읽기 전용으로 시작", "외부 공유 문서 제외", "자동 실행 금지", "고객 답변은 사람 검수 후 전송" 같은 제한을 두는 편이 좋습니다.

마지막 정리

SaaS AI 기능은 생산성을 올릴 수 있지만, 업무 문서와 고객 데이터를 더 넓게 읽고 요약하고 재사용하게 만듭니다. 그래서 "모델 학습에 쓰이는가" 하나만 보면 부족합니다. 권한 상속, 보존 기간, 외부 모델 전송, 관리자 제어, 감사 로그, 팀 사용 가이드를 같이 봐야 합니다.

처음에는 전사 적용보다 제한된 파일럿으로 시작하고, 고객정보나 계약서가 들어가는 기능은 owner와 관리자 설정을 먼저 정해야 합니다. AI 기능을 켤 때마다 같은 질문을 반복하면 됩니다. 이 기능은 무엇을 읽는가, 어디로 보내는가, 얼마나 남는가, 누가 끌 수 있는가.

함께 보면 좋은 글

• SaaS 보안 검토 체크리스트 2026
• SaaS 구매 승인 체크리스트 2026
• 팀 SaaS 계정 권한 감사 체크리스트 2026
• 팀 2단계 인증·SSO 체크리스트 2026
• 팀 파일 공유 보안 체크리스트 2026
• AI 구독료 줄이는 법 2026

공식 출처

• Google Workspace Admin Help – Generative AI in Google Workspace Privacy Hub
• Microsoft Learn – Enterprise data protection in Microsoft 365 Copilot
• Microsoft Learn – Data, Privacy, and Security for Microsoft 365 Copilot
• Slack Help – Security for AI features in Slack
• Slack – Privacy Principles: Search, Learning and Artificial Intelligence
• Notion Help – Notion AI security & privacy practices
• OpenAI – Business data privacy, security, and compliance
• OpenAI – Enterprise privacy
• Zoom Support – How Zoom AI features handle your data
• Atlassian – AI Trust
• Dropbox Dash – Security
• Dropbox Trust Center
• NIST – AI RMF Generative AI Profile
• NSA – Deploying AI Systems Securely
• OWASP – Top 10 for Large Language Model Applications