[privacy] AI 챗봇에 입력한 대화, 정말 학습에 안 쓰이게 할 수 있을까

ChatGPT든 Gemini든, 쓰다 보면 한 번쯤은 이 생각이 든다. 내가 입력한 내용이 다음 모델 훈련에 쓰이고 있는 건 아닐까. 좀 민감한 얘기를 적었을 때 특히 더. 찾아보니 각 서비스마다 설정 방법이 다 다르고, 그 설정을 끈다고 해서 모든 게 해결되는 것도 아니었다. 정리해두면 쓸모가 있겠다 싶어서 적어둔다.

기본값은 대부분 '학습 허용'이다

공통점은 사용자가 직접 설정을 변경하지 않으면 데이터가 학습에 사용된다는 것이다. ChatGPT의 경우가 가장 직관적인 예다. ChatGPT는 사람들이 나누는 대화를 추가 학습에 활용해 모델을 개선하며, 개인용 서비스를 사용할 때 사용자 콘텐츠가 모델 훈련에 쓰일 수 있다. 몰랐다면 지금이라도 설정을 확인해볼 만하다.

ChatGPT: 'Improve the model for everyone' 끄기

설정에서 Data Controls로 들어가면 상단에 "Improve the model for everyone" 옵션이 있다. 이 설정을 끄면 OpenAI가 내 데이터로 향후 모델을 훈련하는 것을 막을 수 있다. 설정을 끄고 나면 대화는 여전히 채팅 기록에 남지만 모델 훈련에는 사용되지 않는다. 한 가지 유의할 점은, 이 설정은 앞으로의 대화에만 적용된다. 이미 학습에 사용된 과거 데이터는 훈련 세트에서 빠지지 않는다. 설정을 끈다고 소급 적용되지는 않는다.

아예 기록 자체를 남기기 싫다면 임시 채팅 기능을 쓰면 된다. ChatGPT의 임시 채팅(Temporary Chat)은 채팅 기록에 남지 않고, 메모리를 사용하거나 생성하지 않으며, 모델 훈련에도 활용되지 않는다. 다만 보안 및 안전상의 이유로 임시 채팅의 사본은 최대 30일 동안만 보관된다. 서버에서 완전히 사라지는 건 아니라는 뜻이다.

또 하나 챙겨야 할 게 있다. 설정을 꺼도 사용자가 직접 피드백(엄지 위/아래)을 제공한다면, 그 피드백과 연결된 전체 대화가 모델 훈련에 사용될 수 있다. 피드백 버튼은 아무 생각 없이 누르기 쉬운데, 사실 꽤 의미 있는 동의에 해당한다.

Gemini: '활동 기록 보관' 사용 중지

Gemini는 조금 다르게 동작한다. Google은 생성형 AI 모델 학습을 비롯한 서비스를 제공·개발·개선하는 데 사용자 활동을 사용한다. 이를 막으려면 '활동 기록 보관' 설정을 꺼야 한다. 활동 기록 보관을 끄면 향후 채팅은 활동에 표시되지 않으며 AI 모델 학습에도 사용되지 않는다.

그런데 Gemini는 설정을 꺼도 완전히 서버에서 사라지는 건 아니다. 향후 채팅은 Gemini가 대답을 제공하고 사용자의 의견을 처리하며 보호 목적을 위해 72시간 동안 저장된다. ChatGPT의 30일보다는 짧지만, 여전히 짧은 시간 동안은 서버에 남는다는 점은 같다. 활동을 삭제해도 서비스 제공업체가 이미 검토한 과거 채팅은 Google 계정과 연결되지 않은 채로 최대 3년간 보관될 수 있다. 이건 읽을수록 좀 찜찜한 대목이다.

Gemini에도 임시 채팅 기능이 있다. 임시 채팅을 사용하면 최근 채팅이나 Gemini 앱 활동에 나타나지 않는 대화를 나눌 수 있으며, 이러한 채팅은 Google의 AI 모델을 학습시키거나 Gemini 환경을 맞춤설정하는 데 사용되지 않는다.

Claude: 기본값부터 다르다

Claude는 세 서비스 중 기본 정책이 가장 보수적이다. Claude는 기본적으로 대화 내용을 모델 학습에 사용하지 않으며, 피드백을 제공하거나 안전 문제가 발생할 때만 데이터를 활용하고, 데이터 접근도 극소수 직원에게만 제한적으로 허용한다. 아무것도 안 해도 일단 학습에 들어가지 않는다는 게 ChatGPT, Gemini와 다른 점이다.

단, 무료·유료 버전의 대화 내용은 모델 학습에 사용되며, 기업용 버전이나 API를 통한 대화는 학습에 활용하지 않는다. 정확하게는 Claude.ai 소비자 플랜에서는 일부 학습이 이뤄질 수 있고, API나 Team·Enterprise 요금제는 학습에서 제외된다는 구조다. Claude 역시 최신 공식 문서 기준으로 한 번 더 확인해두는 게 좋다.

설정을 끄는 것 말고 한 가지 더

설정 옵트아웃보다 솔직히 더 효과적인 방법이 있다. 애초에 민감한 내용을 입력하지 않는 것이다. 이건 당연한 말처럼 들리지만, 실제로는 무심코 이름, 회사명, 구체적인 상황 등을 그대로 넣는 경우가 많다. 설정을 켜놓든 꺼놓든, 인터넷에 올린 데이터를 100% 보호하는 것은 불가능하다.

개인적인 결론은 이렇다. ChatGPT를 쓴다면 Data Controls에서 "Improve the model for everyone"을 지금 당장 꺼두는 게 맞고, Gemini는 '활동 기록 보관'을 확인해야 한다. 그리고 민감한 대화는 임시 채팅을 습관화하는 게 설정보다 훨씬 확실하다. 서비스 약관은 자주 변경되며, 새 AI 기능이 추가될 때 기본 설정이 바뀌기도 한다. 한 번 끄고 끝이 아니라, 가끔씩 다시 들어가 확인해야 한다는 얘기다.