AI 채팅 개인정보 및 보안 가이드

AI 채팅은 혼자만의 텍스트 창처럼 느껴져 안전하다고 생각하기 쉽습니다. 하지만 전송된 모든 메시지는 서버로 전송되고, AI 모델을 거쳐 처리되며, 서비스 정책에 따라 일정 기간 보관될 수 있습니다. 이 가이드에서는 일반적인 데이터 처리 방식, AI 채팅에 절대 입력하면 안 되는 정보, ChatG의 대화 관리 방식, 그리고 AI를 악용한 사기로부터 안전을 지키는 방법을 안내해 드려요.

전송한 메시지는 어떻게 처리될까요?

서비스마다 세부 방식은 다르지만, 대략적인 과정은 비슷해요.

1. 메시지와 이전 대화 내용이 암호화된 연결을 통해 서비스 서버로 전송됩니다.
2. 서비스는 자체 구축 또는 외부 모델 제공업체의 AI 모델로 데이터를 전달합니다.
3. 답변이 생성되어 사용자에게 전송됩니다.
4. 서비스 정책과 설정에 따라 대화가 계정에 저장되거나 보안·오남용 방지 목적으로 일정 기간 로그에 남을 수 있으며, 직원이 검토하거나 향후 모델 학습에 활용될 수도 있습니다.

여러 주요 AI 서비스는 설정을 끄지 않으면 대화 내용을 모델 학습에 사용하기도 하며, 일부는 샘플을 직접 직원이 검토하기도 해요. 대부분 학습 제외(옵트아웃) 설정을 제공하고, 임시 채팅이나 시크릿 모드를 지원합니다. 단, 학습 제외는 보통 설정 이후의 대화에만 적용되며, 이미 학습에 쓰인 데이터는 모델에서 되돌릴 수 없어요. 개인정보 처리방침과 설정은 수시로 바뀌므로 사용하는 AI 서비스마다 꼭 확인해 보세요.

AI 채팅에 절대 입력하면 안 되는 정보

• 비밀번호, PIN, 복구 코드, 일회용 인증번호(OTP). 어떤 AI 작업에서도 이런 정보는 필요하지 않습니다.
• API 키, 액세스 토큰, 프라이빗 키. 임의의 텍스트나 플레이스홀더로 대체해 주세요.
• 카드 전체 번호, 인터넷 뱅킹 정보, 주민등록번호나 여권 번호 등 정부 발급 신분증 번호.
• 타인의 개인정보(고객 정보, 환자 기록, 동료의 인사 정보 등). 공유 권한이 있고 승인된 도구가 아니라면 절대 넣지 마세요.
• 사내 대외비 자료(미공개 실적, 계약서, 소스 코드 등). 회사에서 공식적으로 승인한 도구가 아니라면 입력하지 마세요.
• 공공장소 화면에 띄우기 꺼려지는 내용. AI 채팅은 비밀 일기장이 아니라 친절한 낯선 사람과 대화하는 곳이라고 생각하시는 게 좋습니다.

개인정보 없이 질문하는 요령

식별 가능한 정보만 빼도 거의 똑같이 훌륭한 답변을 얻을 수 있어요. 민감한 정보는 명확한 대체 문구로 바꿔보세요.

다음과 같이 쓰는 대신:
서울시 강남구 테헤란로 14에 사는 고객 홍길동이 2024-118번
청구서 기준 450만 원을 미납 중이고, 전화번호는 [실제 번호]인데...

이렇게 작성해 보세요:
고객 [고객명]이 결제 기한이 45일 지난 청구서 금액 [금액]을
미납 중입니다. 단호하면서도 정중한 독촉 이메일을 작성해 주세요.
세부 정보는 직접 입력하겠습니다.

건강이나 법률 관련 질문을 할 때는 본인의 실명이나 상세 기록 대신 "50대 환자가..."처럼 일반적인 상황으로 묘사해 보세요. 문서를 처리할 때는 이름, 주소, 계좌번호, 서명을 지우고 붙여넣거나 꼭 필요한 문단만 골라 입력하는 것이 좋습니다.

ChatG의 대화 처리 방식

ChatG에서 데이터가 어떻게 다뤄지는지 알기 쉽게 정리해 드려요.

• 계정이 필요 없습니다. 회원가입을 하거나 이름, 이메일 주소를 입력할 필요 없이 바로 이용하실 수 있습니다.
• 대화 기록은 기기에만 남습니다. 대화 기록은 서버가 아닌 사용 중인 기기의 브라우저 저장소에만 보관됩니다. 브라우저 캐시나 사이트 데이터를 삭제하면 대화도 지워지므로, 필요한 내용은 미리 내보내기해 두세요.
• 답변 생성 목적으로만 메시지를 처리합니다. 답변을 생성하기 위해 메시지는 외부 모델 제공업체를 사용하는 AI 처리 서비스로 전송됩니다. 짧은 기술 로그 외에는 사용자의 메시지를 보관하지 않습니다.
• 계정 없이 일일 한도를 관리합니다. 무료 일일 메시지 수를 계산하고 악용을 방지하기 위해 IP 주소 기반의 해시 식별자를 사용합니다.
• 공유 링크는 링크를 가진 누구나 볼 수 있습니다. 공유 링크를 생성하면 해당 대화의 읽기 전용 사본이 서버(chatg.org/s/ 주소)에 저장됩니다. 공유된 페이지는 검색엔진에 노출되지 않으며 나중에 직접 수정할 수 없습니다. 삭제를 원하시면 hello@chatg.org로 문의해 주세요. 공유하기 전에 개인정보가 포함되어 있지 않은지 다시 한번 확인하세요.
• 광고 및 분석. ChatG는 답변 내부가 아닌 콘텐츠 주변에 표시되는 광고를 통해 무료로 운영됩니다. 광고 파트너와 Google Analytics는 쿠키 및 유사 기술을 사용하며, 법적으로 요구되는 지역에서는 동의 배너가 표시됩니다.

자세한 내용은 개인정보 처리방침과 이용약관에서 확인하실 수 있습니다. 공용 PC나 다른 사람과 함께 쓰는 기기에서는 이용 후 대화 설정에서 대화 기록을 꼭 삭제해 주세요.

AI를 악용한 대표적인 사기 수법

사기범들도 AI 도구를 적극적으로 활용하고 있습니다. 주요 수법을 미리 알아두면 피해를 예방할 수 있어요.

• 교묘해진 피싱. 피싱 메일이나 문자가 더 이상 어색한 맞춤법으로 티를 내지 않습니다. 문장이 얼마나 자연스러운지보다 긴급 송금, 로그인 링크, 상품권, 인증번호 등을 요구하는지 내용 자체를 주의 깊게 살펴보세요.
• 음성 복제(보이스 피싱). 짧은 음성 샘플만으로도 특정인의 목소리를 흉내 낼 수 있습니다. "가족이나 지인"이 급하게 돈을 요구하며 전화를 걸어오면, 일단 끊고 원래 알고 있던 번호로 다시 연락해 확인해 보세요. 가족 간에 비상용 암호를 정해두는 것도 좋은 방법입니다.
• 가짜 영상 및 이미지(딥페이크). 유명인이 등장해 투자나 기부를 권유하는 자극적인 영상은 일단 의심해 보는 것이 안전합니다.
• 가짜 AI 앱과 웹사이트. 유명 AI 서비스를 사칭해 결제를 유도하거나 개인정보를 빼가는 앱이 있습니다. 반드시 공식 앱스토어에서만 설치하고 개발사 이름을 확인하세요.
• "AI 자동 투자 봇". 원금 보장이나 높은 수익률을 내세우는 AI 투자 봇은 전형적인 투자 사기 수법 중 하나입니다.

의심스러운 상황에서는 AI를 방어적으로 활용할 수도 있어요. 개인정보를 지운 상태로 수상한 메시지를 붙여넣고 사기 의심 징후가 있는지 물어보세요. 그런 다음 메시지에 적힌 링크나 번호가 아닌 공식 채널을 통해 사실 여부를 직접 확인해 보시는 것이 좋습니다.

AI 답변을 활용할 때 주의할 점

• 건강, 법률, 금융 관련 질문: AI는 일반적인 개념을 설명하거나 질문을 정리하는 데 도움을 줄 수 있지만 의사, 변호사, 금융 전문가는 아닙니다. 중요한 결정을 내리기 전에 전문가와 상담하세요. 응급 상황에서는 즉시 119 등 응급 서비스에 연락하셔야 합니다.
• 안전과 직결된 작업 지침: 전기 공사, 화학 물질 취급, 의약품 복용량, 자동차 수리 등은 반드시 공식 설명서를 확인하거나 전문가에게 문의하세요.
• 콘텐츠에 숨겨진 악성 명령어: 웹페이지나 이메일, 문서를 읽는 AI 도구는 해당 콘텐츠 내에 숨겨진 프롬프트(프롬프트 인젝션)에 의해 의도치 않은 동작을 할 위험이 있습니다. 이메일 전송이나 결제처럼 중요한 작업을 사용자의 최종 확인 없이 AI 에이전트에 전적으로 맡기지 마세요.
• 어린이 이용: ChatG는 만 14세 미만 어린이를 위한 서비스가 아닙니다. 청소년 자녀를 둔 보호자라면 민감한 정보를 입력하지 않는 법과 답변을 비판적으로 검토하는 방법을 함께 이야기해 주세요.

AI 답변 팩트체크 가이드에서 정보 검증 방법을, AI 챗봇의 작동 원리에서 AI가 오답을 내놓는 이유를 자세히 알아보실 수 있습니다.

개인정보 보호 체크리스트

• 답변에 꼭 필요하지 않은 이름, 연락처, 주소를 삭제했는가?
• 비밀번호, 보안 키, 인증 코드를 입력하지 않았는가?
• 회사나 학교 자료를 붙여넣기 전에 관련 규정을 확인했는가?
• 이 서비스가 대화 기록을 어디에 저장하고 모델 학습에 사용하는지 알고 있는가?
• 공유 링크를 만들기 전에 대화 내용을 꼼꼼히 확인했는가?
• 공용 컴퓨터에서 대화 기록을 깨끗이 정리했는가?

ChatG의 작동 방식에 대한 추가 질문은 자주 묻는 질문(FAQ)과 소개 페이지에서 확인하실 수 있습니다. 코딩이나 업무 문서 작업에 AI를 활용하고 계신다면, 코딩을 위한 AI 및 소상공인을 위한 AI 가이드에서 입력 시 주의해야 할 점을 확인해 보세요.

자주 묻는 질문

AI 서비스 운영자가 제 대화를 읽을 수 있나요?

서비스 정책에 따라 안전 모니터링이나 모델 개선을 위해 직원 또는 외주 인력이 대화 일부를 검토할 수 있습니다. 각 서비스의 개인정보 처리방침을 확인해 보세요. ChatG의 경우 대화 기록이 서버가 아닌 사용자 브라우저에 저장되지만, 답변 생성을 위해 메시지는 AI 처리 서비스로 전송됩니다.

대화를 삭제하면 모든 곳에서 완전히 지워지나요?

반드시 그렇지는 않습니다. 대화를 삭제하면 일반적으로 대화 기록 목록에서 사라지지만, 서비스 정책에 따라 로그나 백업 데이터에는 일정 기간 남아 있을 수 있습니다. ChatG에서는 삭제 시 브라우저에서 대화가 즉시 제거되며, 직접 생성하신 공유 링크는 별도로 삭제를 요청하실 때까지 유지됩니다.

시크릿 모드로 접속하면 대화 내용이 안전하게 보호되나요?

시크릿 모드나 개인정보 보호 브라우징을 사용하면 창을 닫았을 때 브라우저에 방문 기록이 남지 않으며, ChatG에서도 창을 닫으면 대화 내용이 바로 사라집니다. 하지만 답변 생성을 위해 메시지가 AI 서비스로 전송되는 것은 동일하므로, 서비스 측에 메시지 내용 자체가 숨겨지는 것은 아닙니다.

민감한 정보를 실수로 입력했을 때는 어떻게 해야 하나요?

노출된 비밀번호나 API 키는 즉시 변경하거나 폐기하세요. 해당 대화를 바로 삭제하고, 서비스의 데이터 삭제 기능을 확인해 보세요. ChatG 공유 링크에 포함된 경우라면 해당 링크와 함께 hello@chatg.org로 메일을 보내주시면 삭제해 드립니다.