기술/연구

“얘 왜 이래?” AI 챗봇의 섬뜩한 기억력, 과연 안전할까?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.12 07:46

기사 3줄 요약

1 앤트로픽 클로드 AI, 대화 자동 기억 기능 출시
2 기업용 유료 버전에 우선 적용, 사용자 맞춤형 강화
3 경쟁사 AI ‘망상’ 논란 속, 안전성 우려도 제기

인공지능(AI) 챗봇이 사용자와 나눈 과거 대화를 자동으로 기억하는 시대가 열렸습니다. 오픈AI의 강력한 경쟁사로 꼽히는 앤트로픽은 자사 AI 모델 ‘클로드’에 기억 기능을 추가했다고 발표했습니다. 이 기능은 사용자가 과거에 했던 말이나 업무 스타일, 개인적인 선호도 등을 기억해두었다가 다음 대화에 알아서 반영합니다. 매번 같은 내용을 반복해서 설명할 필요가 없어지는 것입니다.

그래서 뭐가 기억된다는 거야?

클로드의 기억 기능은 현재 기업용 유료方案을 사용하는 팀에게 우선 제공됩니다. 예를 들어, 특정 프로젝트의 진행 상황이나 클라이언트의 요구사항, 팀의 업무 방식 등을 기억해두고, 사용자가 다시 물어보면 곧바로 맞춤형 답변을 내놓는 식입니다. 앤트로픽에 따르면 사용자는 설정 메뉴에서 클로드가 무엇을 기억하고 있는지 직접 확인하고 수정할 수 있습니다. 원하지 않는 내용은 지우거나, 특정 내용은 무시하라고 명령하는 것도 가능합니다. 물론 기억 기능을 완전히 꺼버릴 수도 있어 선택권은 사용자에게 있습니다.

ChatGPT랑 구글도 있다며? 뭐가 달라?

사실 대화 기억 기능은 새로운 것이 아닙니다. 오픈AI의 ChatGPT나 구글의 제미나이도 이미 비슷한 기능을 선보였습니다. 하지만 클로드는 작동 방식에 약간의 차이가 있습니다. 다른 AI들이 대화를 지속적으로 저장하며 자동으로 학습하는 방식이라면, 클로드는 사용자가 필요할 때만 과거 대화를 참고하는 방식에 가깝습니다. 이는 중요한 차이점입니다. 뉴욕타임스 보도에 따르면, ChatGPT의 기억 기능이 출시된 이후 AI가 마치 사람처럼 망상에 빠진 듯한 이상한 답변을 내놓는 사례가 늘었다는 보고가 있었습니다. 앤트로픽은 이런 부작용을 줄이고 사용자의 통제권을 강화하는 방향을 선택한 것으로 보입니다.

그래도 좀 찝찝한데… 방법은 없어?

이런 불안감을 해소하기 위해 앤트로픽은 모든 사용자를 대상으로 ‘시크릿 모드’와 비슷한 기능도 함께 내놨습니다. 이 모드에서 나눈 대화는 클로드의 대화 기록에 저장되지 않으며, 미래 대화에도 전혀 영향을 주지 않습니다. 결국 AI의 기억 기능은 편리함과 위험성이라는 양날의 칼과 같습니다. 기술이 주는 편리함을 누리면서도, 나의 정보가 어떻게 사용되는지 꼼꼼히 살피고 스스로 통제하려는 노력이 중요해졌습니다. AI를 똑똑하게 활용하는 지혜가 필요한 시점입니다.