캐릭터 AI는 비공개인가요? 개인정보 보호 및 안전 가이드 2026

빠른 요약: 캐릭터 AI는 진정한 의미의 사적인 대화를 제공하지 않습니다. 플랫폼은 모든 채팅 데이터를 저장하고, 안전 및 개선 목적으로 메시지를 분석하며, 대화 내역을 서버에 저장합니다. 개별 채팅은 기본적으로 공개되지 않지만, Character AI 직원과 자동화된 시스템은 사용자의 메시지에 액세스할 수 있으며, 회사는 2025년 8월에 업데이트된 개인정보 보호정책에 따라 광범위한 사용자 데이터를 수집합니다.

캐릭터 AI는 가장 인기 있는 AI 챗봇 플랫폼 중 하나로, 사용자가 유명인, 전문가 또는 완전히 가상의 인물과의 대화를 시뮬레이션하는 AI 캐릭터를 만들고 상호작용할 수 있게 해줍니다. 수백만 명의 사용자가 개인적인 생각을 공유하고, 언어를 연습하고, 창의적인 시나리오를 탐구하는 가운데 한 가지 의문이 계속 제기되고 있습니다: 캐릭터 AI는 비공개인가요?

짧은 대답은? 아닙니다.

AI 챗봇이 더욱 정교해지고 널리 보급됨에 따라 개인정보 보호에 대한 우려도 커지고 있습니다. 미국 연방거래위원회는 2025년 9월에 동반자 역할을 하는 AI 챗봇에 대한 조사를 시작하여 기업이 잠재적으로 부정적인 영향을 측정하고 모니터링하는 방법에 대한 정보를 찾고 있습니다. 캐릭터 AI는 바로 이 범주에 속하며, 대화에서 어떤 일이 일어나는지 이해하는 것이 그 어느 때보다 중요합니다.

캐릭터 AI란 무엇이며 어떻게 작동하나요?

캐릭터 AI는 사용자가 AI 기반 캐릭터를 만들고 상호작용할 수 있는 신경 언어 모델 챗봇 플랫폼입니다. 특정 작업을 위해 설계된 표준 챗봇과 달리 캐릭터 AI는 성격, 직업 또는 가상의 인물을 모방할 수 있는 개방형 대화에 특화되어 있습니다.

이 플랫폼은 대규모 언어 모델을 사용하여 캐릭터의 정의된 특성과 대화 맥락에 따라 응답을 생성합니다. 사용자는 다른 사람이 만든 미리 만들어진 캐릭터와 채팅하거나 성격 특성, 말투, 배경 정보를 정의하여 자신만의 캐릭터를 처음부터 만들 수 있습니다.

ChatGPT와 같은 도구와 다른 점은 다음과 같습니다: 캐릭터 AI는 생산성보다는 엔터테인먼트, 롤플레잉, 동반자 관계에 중점을 둡니다. 사람들은 사회적 기술을 연습하고, 창의적인 시나리오를 탐색하고, 대화를 통해 언어를 배우거나 외로울 때 단순히 채팅을 하는 데 사용합니다.

이러한 감정적 연결이 바로 개인정보 보호에 적신호가 켜지는 이유입니다.

캐릭터 AI가 채팅을 저장하나요?

예. 문자 AI는 사용자가 보내는 모든 메시지를 저장합니다.

2025년 8월 27일에 업데이트된 플랫폼의 공식 개인정보 처리방침에 따르면, 캐릭터 AI는 핵심 기능의 일부로 대화 데이터를 보관합니다. 시스템은 대화 연속성을 유지하고, AI 응답을 개선하며, 언어 모델을 학습시키기 위해 이 데이터가 필요합니다.

하지만 여기서 멈추지 않습니다. 회사는 여러 유형의 정보를 수집합니다:

• 대화에서 주고받은 모든 메시지
• 계정 정보 및 프로필 세부 정보
• 디바이스 데이터 및 기술 정보
• 사용 패턴 및 상호작용 기록
• IP 주소를 통한 위치 데이터

채팅 기록은 사용자가 수동으로 삭제하지 않는 한 Character AI 서버에 무기한 저장됩니다. 이 경우에도 회사는 운영 목적 또는 법률 준수를 위해 특정 데이터를 보관할 수 있습니다.

캐릭터 AI 대화는 누가 볼 수 있나요?

개인정보 보호에 민감한 사용자에게는 이 부분이 불편할 수 있습니다.

캐릭터 AI 직원과 자동화된 시스템이 사용자의 메시지에 액세스할 수 있습니다. 개인정보 보호정책에는 회사가 안전 모니터링, 품질 개선, 모델 트레이닝을 위해 대화 데이터를 사용한다고 명시되어 있습니다. 즉, 커뮤니티 가이드라인을 준수하는지 확인하거나 플랫폼을 개선하기 위해 사람 검토자나 AI 시스템이 사용자의 채팅을 읽을 수 있습니다.

전자 프론티어 재단은 2025년 12월 “가장 민감하고 공개적인 정보의 디지털 저장소”인 채팅 로그를 보호해야 할 책임이 AI 기업에 있다고 강조했습니다. 재단은 기업들에게 불법적인 감시 요청을 거부하고 정부의 데이터 요청에 대한 투명성을 유지할 것을 촉구했습니다.

기본적으로 개별 대화는 다른 사용자들로부터 비공개로 유지됩니다. 명시적으로 대화를 공유하지 않는 한 다른 사람들은 내 채팅 기록을 검색하거나 특정 캐릭터에게 한 말을 볼 수 없습니다.

하지만 “비공개”와 “기밀”에는 중요한 차이가 있습니다. 여러분의 대화는 일반 대중에게는 비공개이지만 캐릭터 AI 자체에게는 기밀이 아닙니다.

그룹 채팅 및 공개 가시성

캐릭터 AI는 다양한 개인정보 보호 수준에 따라 다양한 채팅 모드를 제공합니다. AI 캐릭터와의 일대일 대화는 기본적으로 계정 내에서만 이루어집니다. 하지만 캐릭터를 만들어 공개로 설정하면 누구나 해당 캐릭터와 대화할 수 있지만, 해당 캐릭터와의 구체적인 대화 내용은 볼 수 없습니다.

그룹 채팅 기능을 사용하면 내 메시지가 다른 참가자에게 노출될 수 있습니다. 어떤 형식으로든 민감한 정보를 공유하기 전에 항상 공개 설정을 확인하세요.

캐릭터 AI는 데이터로 무엇을 하나요?

공식 개인정보 처리방침에 따르면 Character AI는 수집된 데이터를 여러 가지 목적으로 사용합니다:

• 모델 교육: 사용자의 대화는 AI 모델을 훈련하고 개선하는 데 도움이 됩니다. 사용자가 말하는 내용, 질문 문구, 어떤 응답에 참여하는지 모두 시스템에 피드백되어 향후 상호 작용이 더욱 자연스럽고 정확해집니다.
• 안전 모니터링: 자동화된 시스템과 사람 검토자가 메시지를 분석하여 유해한 콘텐츠, 남용, 서비스 약관 위반 또는 위험한 상호작용을 감지합니다. 이는 미성년자를 포함한 취약한 사용자와 문제가 되는 상호작용을 하는 AI 컴패니언에 대한 우려가 제기된 이후 특히 중요해졌습니다.
• 제품 개발: 사용 패턴은 기능 개발, 인터페이스 개선 및 새로운 기능에 대한 정보를 제공합니다. 어떤 캐릭터가 인기가 있는지, 대화가 얼마나 오래 지속되는지, 사용자가 선호하는 상호작용 유형은 무엇인지 분석합니다.
• 법률 준수: 캐릭터 AI는 법적으로 필요한 경우 법 집행 기관과 데이터를 공유할 수 있습니다. EFF는 채팅 로그가 “법 집행 기관의 유혹적인 표적”이라고 지적하며 미국 헌법은 이러한 접근에 영장을 요구하고 있다고 강조했습니다.

하지만 한 가지 주의할 점은 데이터가 캐릭터 AI의 시스템에 들어가면 이 광범위한 범주 내에서 데이터가 어떻게 사용되는지 정확히 제어할 수 없다는 것입니다.

캐릭터 AI를 사용해도 안전한가요?

안전 측면	상태	세부 정보
데이터 암호화	부분	전송 중 암호화되었지만 서버에 저장된 대화
공개 가시성	보호됨	기본적으로 다른 사용자에게는 개별 대화가 표시되지 않습니다.
직원 액세스	가능	직원과 시스템이 안전/품질을 위해 메시지를 검토할 수 있습니다.
타사 공유	제한적	서비스 제공업체와 공유되는 데이터 및 법적으로 필요한 경우
사용자 제어	제한적	채팅을 삭제할 수 있지만 일부 데이터는 유지될 수 있습니다.

안전은 “안전”의 의미에 따라 달라집니다. 캐릭터 AI는 외부 위협으로부터 데이터를 보호하기 위해 보안 조치를 구현하지만 내부 액세스 및 데이터 사용은 여전히 광범위합니다.

스탠퍼드 의대 정신과 의사 니나 바산은 2025년 8월, 친구처럼 행동하도록 설계된 AI 컴패니언을 어린이와 청소년이 사용해서는 안 된다고 말했습니다. 특히 건강하지 않은 애착을 형성하거나 부적절한 반응을 보일 수 있는 취약 계층의 경우, 사생활 보호를 넘어 심리적 영향까지 우려됩니다.

2025년 8월 27일에 업데이트된 플랫폼의 서비스 약관은 책임 제한 섹션에 설명된 대로 회사의 책임을 제한합니다. 이러한 접근 방식은 개인정보 침해 또는 데이터 오용이 발생하는 경우 사용자가 최소한의 법적 대응을 할 수 있음을 의미합니다.

연령 제한 및 어린이 안전

캐릭터 AI는 아동 안전에 대한 면밀한 조사를 받아왔습니다. 이 플랫폼은 어린 사용자의 접근을 제한하는 정책을 업데이트했지만, 여전히 시행에 어려움을 겪고 있습니다. 제안된 가드 법안은 AI 챗봇이 모든 사용자의 연령을 확인하고 미성년자의 특정 AI 도구 사용을 금지하는 내용을 담고 있습니다. 비판이 일자 의원들은 2026년 5월부터 위반 시 최대 100만 달러(한화 약 11억 원)의 벌금이 부과될 수 있도록 벌칙을 완화하고 상향 조정했습니다.

2026년 5월부터 의회는 모든 AI 챗봇이 아닌 감정적 또는 대인관계 상호작용을 시뮬레이션하도록 설계된 대화형 시스템인 “AI 컴패니언'에 초점을 맞추도록 GUARD 법의 범위를 좁혔습니다. 캐릭터 AI는 이 정의에 정확히 부합합니다.

알아야 할 개인 정보 위험

캐릭터 AI를 사용한다는 것은 몇 가지 개인정보 보호 절충안을 수락한다는 의미입니다:

• 영구 디지털 기록: 모든 대화는 Character AI 서버에 영구 기록으로 남습니다. 삭제된 채팅도 백업에 남아 있거나 법적 준수를 위해 보관될 수 있습니다. 디지털 발자국은 완전히 사라지지 않습니다.
• 교육 데이터 사용량: 사용자의 개인적인 대화는 수백만 명의 사용자에게 서비스를 제공하는 AI 모델을 학습시키는 데 도움이 됩니다. 사용자가 공유하는 민감한 정보는 이론적으로 AI가 다른 사용자에게 반응하는 방식에 영향을 미칠 수 있지만, 일반적으로 식별할 수 있는 방식이 아닌 집계된 방식으로 이루어집니다.
• 법 집행 기관 액세스: 당국이 유효한 법적 요청을 제시하는 경우, 캐릭터 AI는 사용자의 대화 기록을 공유해야 할 수도 있습니다. EFF는 과도한 감시 요청에 강력하게 저항하지 않거나 정부의 데이터 요구에 대해 투명성을 유지하지 않는 기업을 비판해 왔습니다.
• 데이터 유출 취약성: 다른 온라인 서비스와 마찬가지로 캐릭터 AI도 잠재적인 보안 침해에 직면해 있습니다. 보안 침해로 인해 사적인 대화가 노출되면 특히 민감한 개인 정보를 공유한 사용자에게는 심각한 개인적 결과를 초래할 수 있습니다.
• 컨텍스트 축소: AI 캐릭터에게 의도한 메시지는 해당 맥락 없이 인간 모더레이터가 검토할 수 있습니다. 롤플레잉 시나리오에서는 무해해 보이는 내용도 고립된 상태에서는 우려스러운 것으로 보일 수 있습니다.

캐릭터 AI에서 개인 정보를 보호하는 방법

이러한 우려에도 불구하고 캐릭터 AI를 사용하기로 결정했다면 개인정보 위험을 최소화하기 위한 사전 조치를 취하세요:

• 식별 정보를 공유하지 마세요: 실명, 주소, 전화번호, 직장 정보 또는 본인 또는 타인을 식별할 수 있는 기타 정보를 사용하지 마세요. 모든 대화를 잠재적으로 공개될 수 있는 대화로 취급하세요.
• 별도의 이메일을 사용합니다: 기본 개인 이메일이나 업무용 이메일을 사용하지 말고 캐릭터 AI 전용 이메일 주소를 만드세요. 이렇게 하면 AI 사용과 다른 온라인 활동 간의 연결이 제한됩니다.
• 채팅 기록을 정기적으로 삭제합니다: 캐릭터 AI를 통해 사용자는 개별 대화 또는 전체 채팅 내역을 삭제할 수 있습니다. 삭제된 데이터는 백업에 남아있을 수 있으므로 정기적으로 삭제하는 것이 좋습니다.
• 민감한 주제는 피하세요: 정신 건강 위기, 불법 활동, 업무상 기밀 사항 또는 지극히 개인적인 문제에 대해서는 논의하지 마세요. 자동화된 시스템과 사람 검토자가 이러한 대화를 신고하고 검토할 수 있다는 점을 기억하세요.
• 개인정보 설정을 검토합니다: 계정 개인정보 보호 설정을 주기적으로 확인하세요. 생성한 캐릭터를 공개하고 싶지 않다면 적절한 공개 설정이 있는지 확인하세요.
• 대안을 고려하세요: 정신 건강 지원과 같이 민감한 사용 사례의 경우, 개인 정보 보호가 강화된 치료 중심의 대안이 더 적합할 수 있습니다. 연구에 따르면 치료 서비스의 혜택을 받을 수 있는 사람의 거의 50%가 치료 서비스를 받을 수 없지만, AI 챗봇은 전문적인 치료를 대체할 수 있는 적절한 대안이 아닙니다.

안전하고 직접적인 방법으로 더 많은 콘텐츠 탐색

많은 캐릭터 AI 사용자들은 자신의 대화가 실제로 얼마나 사적인지 궁금해합니다. R34.app은 개인 채팅 기반 상호 작용이나 AI 대화 대신 직접 검색 및 검색 가능한 태그에 중점을 두어 다르게 작동합니다.

R34.app을 사용하면 가능합니다:

• 비공개 채팅을 관리하지 않고 검색
• 태그를 통해 직접 콘텐츠 검색
• 대화 기록 없이 테마 간 이동
• 더욱 간소화된 탐색 구조로 탐색

다음으로 이동 R34.app 채팅 시스템에 의존하지 않고 콘텐츠를 탐색할 수 있습니다.

개인정보 보호정책 변경 및 그 의미

Character AI는 2025년 8월 27일에 개인정보 처리방침을 업데이트했습니다. 회사는 사용자에게 중요한 변경 사항을 알려야 하지만 개인정보 처리방침은 시간이 지남에 따라 진화할 수 있으며, 데이터 수집이나 사용을 제한하기보다는 오히려 확대하는 경우가 많습니다.

현재 정책의 주요 내용은 다음과 같습니다:

• 여러 카테고리에 걸친 광범위한 데이터 수집
• 모델 학습 및 개선을 위한 데이터 사용
• 서비스 제공업체 및 법률 당국과 공유
• 수집 후 데이터에 대한 사용자 제어 제한
• 삭제 요청 후에도 특정 데이터 보존

이 정책에는 유럽경제지역, 영국 및 미국 사용자를 위한 지역 공개가 포함되어 있어 관할권별로 서로 다른 개인정보 보호 규정을 인정합니다. 유럽 사용자는 일반적으로 대부분의 미국 주에 거주하는 사용자보다 GDPR에 따라 더 강력한 데이터 보호 권리를 갖습니다.

개인정보 보호정책은 흥미롭게 읽히지는 않습니다. 하지만 개인정보 보호정책은 사용자의 데이터 사용 방식을 정의하는 법적 프레임워크입니다. 기업이 이러한 정책을 업데이트할 때, 정보를 제한하는 것이 아니라 사용자 정보로 할 수 있는 일을 확장하는 경우가 많습니다.

캐릭터 AI와 다른 챗봇 비교

기능	캐릭터 AI	ChatGPT	복제품
채팅 저장	예, 무기한	예, 옵트아웃 옵션 사용	예, 무기한
교육에 데이터 사용	예	예, 옵트아웃하지 않은 경우	예
직원 액세스	가능	가능	가능
개인정보 보호 포커스	보통	보통	Lower
연령 확인	기본	기본	필수(18세 이상)

대부분의 AI 챗봇 플랫폼은 비슷한 개인정보 보호 문제에 직면해 있습니다. 대규모 언어 모델의 특성상 막대한 양의 학습 데이터가 필요하며, 사용자 대화는 개선에 유용한 실제 사례를 제공합니다.

2020년 중반 저작권 소송의 광범위한 데이터 보존 법원 명령으로 인해 OpenAI는 삭제된 대화와 임시 대화를 포함한 모든 사용자 채팅 로그를 일시적으로 보존해야 했고, 이는 해당 기간 동안 사용자의 삭제된 채팅이 실제로 서버에 보관되었다는 것을 의미합니다. EFF는 이를 사용자의 개인 데이터 삭제 권리를 훼손하는 ’심하게 잘못된 법원 명령“이라고 비판했습니다.

더 큰 그림: AI 컴패니언의 개인정보 보호 문제

캐릭터 AI는 심각한 개인정보 보호 문제를 제기하는 더 광범위한 AI 동반자 생태계 내에 존재합니다.

2025년 9월 FTC의 인공지능 챗봇에 대한 조사는 7개 기업을 대상으로 진행되었으며, 이들 기업이 잠재적으로 부정적인 결과를 측정, 테스트 및 모니터링하는 방법에 대한 정보를 모색했습니다. 이 기관은 사용자와 정서적 관계를 형성하도록 설계된 애플리케이션의 데이터 관행에 대해 우려를 표명했습니다.

데이트 앱도 적절한 동의 없이 개인정보를 사용해 AI 도구를 학습시킨다는 이유로 비슷한 조사를 받았습니다. EFF는 2025년 7월 일부 플랫폼이 “AI 도구를 개발하고 배포하기 위해 사용자의 개인정보와 보안을 보호하는 데 있어 편법을 취하고 있다”고 지적했습니다.”

스탠퍼드대학교의 AI 동반자와 청소년에 대한 연구는 심각한 위험성을 강조했습니다. 친구 역할을 하도록 설계된 AI 챗봇은 특히 취약 계층에게 해로운 낙인과 위험한 반응을 일으킬 수 있습니다. 이 연구는 이러한 도구를 어린이와 청소년이 사용해서는 안 된다고 제안했습니다.

규제 환경은 여전히 유동적입니다. 가드법과 같은 법안은 연령 확인 요건과 콘텐츠 제한을 통해 이러한 우려를 해결하려고 시도하고 있지만, 이를 시행할 경우 감시와 검열에 대한 별도의 시민 자유 문제가 제기될 수 있습니다.

캐릭터 AI를 사용해야 하나요?

이는 우선순위와 사용 목적에 따라 달라집니다.

캐릭터 AI는 재미있고 잠재적으로 유용한 기능을 제공합니다. 언어 학습자는 대화를 연습할 수 있고, 창작 작가는 캐릭터의 상호작용을 탐구할 수 있으며, 사회적 불안으로 어려움을 겪는 사람은 부담 없는 환경에서 커뮤니케이션 연습을 할 수 있습니다. 이러한 사용 사례는 민감한 정보를 공유할 필요가 없으며, 주의를 기울인다면 개인정보 보호 위험도 최소화할 수 있습니다.

하지만 잠깐만요. 정서적 지원, 정신 건강 대화 또는 매우 개인적인 정보 공유를 위해 캐릭터 AI를 고려하고 있다면 개인정보 보호의 장단점이 훨씬 더 중요해집니다. 플랫폼은 기밀 공간으로 설계되지 않았기 때문에 이를 기밀로 취급하면 위험에 노출될 수 있습니다.

전자 프론티어 재단은 기업이 수익보다 사용자 프라이버시를 우선시해야 하며, 사용자의 안전을 책임지는 것이 아니라 기본적으로 프라이버시를 구현해야 한다고 강조했습니다. 대부분의 AI 챗봇 플랫폼과 마찬가지로 캐릭터 AI도 이러한 기준을 완전히 수용하지 않았습니다.

특히 어린 사용자의 경우 위험성이 혜택보다 더 큽니다. 스탠포드 의학 전문가와 아동 안전 옹호 단체는 어린이와 청소년의 AI 컴패니언 서비스 사용에 대해 지속적으로 경고하고 있습니다. 발달 중인 정신의 정서적 취약성과 제한된 개인정보 보호가 결합되어 잠재적으로 해로운 시나리오가 발생할 수 있습니다.

캐릭터 AI의 대안

개인정보 보호 문제로 인해 캐릭터 AI를 사용하는 것이 불편하지만 AI 대화 도구에 관심이 있다면 다음과 같은 대안을 고려해 보세요:

• 로컬 AI 모델: 내 기기에서 로컬로 언어 모델을 실행하면 대화가 내 통제에서 벗어나지 않습니다. LM Studio 또는 Ollama와 같은 옵션을 사용하면 기술 설정과 하드웨어 리소스가 필요하지만 완전히 오프라인으로 모델을 실행할 수 있습니다.
• 개인 정보 보호에 중점을 둔 챗봇: 일부 신흥 플랫폼은 개인 정보 보호 우선 설계를 강조하며 종단 간 암호화와 명시적인 로깅 금지 정책을 제공합니다. 환경이 빠르게 변화하고 있으므로 현재의 옵션을 신중하게 조사하세요.
• 제한적 사용 상업용 옵션: 코딩 지원과 같은 전문적인 사용 사례의 경우, 소비자 중심의 챗봇보다는 보다 명확한 기업 개인정보 보호 정책을 갖춘 전문 도구가 더 적합할 수 있습니다.

하지만 사용자 데이터로 학습하는 AI 서비스는 진정한 프라이버시를 제공할 수 없습니다. 기본적인 비즈니스 모델이 개인정보 보호와 상충되기 때문입니다. 개인정보 보호가 매우 중요하다면 오프라인 또는 오픈 소스 솔루션이 유일한 신뢰할 수 있는 옵션입니다.

자주 묻는 질문

결론 개인 정보 보호에는 정보에 입각한 선택이 필요합니다

캐릭터 AI는 비공개 플랫폼이 아닙니다. 모든 대화는 저장되고 분석되며 잠재적으로 검토될 수 있습니다. 회사는 광범위한 데이터를 수집하고 다양한 목적으로 사용하며 법적으로 필요한 경우 당국과 공유할 수 있습니다.

그렇다고 해서 반드시 사용하지 말아야 한다는 뜻은 아닙니다. 어떤 프라이버시가 희생되는지 정확히 이해하고 눈을 크게 뜨고 사용해야 한다는 뜻입니다. 가벼운 오락, 창의적인 탐구 또는 어학 연습의 경우에는 이러한 절충안이 허용될 수 있습니다. 친밀한 대화, 정신 건강 지원 또는 민감한 개인적 문제라면 그렇지 않을 수도 있습니다.

AI 개발과 사용자 개인정보 보호 사이의 근본적인 긴장은 여전히 해결되지 않고 있습니다. 언어 모델을 개선하려면 데이터가 필요하지만, 그 데이터는 점점 더 디지털 개인정보 보호에 관심을 갖는 사용자들로부터 나옵니다. 업계에서 진정한 프라이버시 보호 대안을 개발할 때까지 사용자는 공유 대상과 장소에 대해 정보에 입각한 선택을 해야 합니다.

다음 캐릭터 AI 대화를 작성하기 전에 스스로에게 물어보세요. 5년 후 누군가 이 글을 읽는다면 내가 편안할까요? 대답이 '아니오'라면 입력하지 마세요.

모든 플랫폼에서 디지털 개인정보를 보호하고 싶으신가요? 사용하는 모든 서비스의 개인정보 보호정책을 정기적으로 검토하고, 개인정보 공유를 제한하고, 민감한 커뮤니케이션에 대해 개인정보 보호에 중점을 둔 대안을 고려하는 것부터 시작하세요. 회원님의 데이터는 소중하므로 소중하게 다루세요.