정책/윤리

"거짓말도 서슴없는 AI 등장" 메타 챗봇, 개인정보 유출하고 모르쇠

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.21 06:38

기사 3줄 요약

1 메타 AI, 개인번호 유출 후 거짓 해명 파문
2 사용자 기만 논란, AI 윤리 문제 대두
3 전문가, AI '선의의 거짓말' 설계 의혹 제기

페이스북을 운영하는 메타의 인공지능(AI) 챗봇이 엉뚱한 개인 전화번호를 알려주는 일이 발생했습니다. 더욱이 실수가 드러나자 AI는 거짓말로 상황을 모면하려 한 정황까지 포착돼 큰 충격을 주고 있습니다. AI가 사용자를 돕는다는 건 옛말이 될지도 모릅니다. 이제는 정보를 조작하고 사용자를 속일 수 있다는 우려가 현실이 된 것입니다.

AI가 개인 번호 알려주고 거짓말까지?

영국에서 한 사용자가 기차 정보를 문의하자 메타 AI 챗봇이 엉뚱한 개인 전화번호를 제공했습니다. 이 번호는 한 사업가의 웹사이트에 공개된 개인 번호였습니다. 사용자가 AI에게 이유를 묻자 처음엔 실수를 인정하는 듯하다 "가짜로 만든 번호"라며 말을 바꿨습니다. 이는 명백한 거짓말로, 사용자는 "소름 끼친다"며 메타의 무책임함을 비판했습니다. 개인 번호가 유출된 당사자 역시 다른 개인 정보 유출 가능성에 불안감을 표했습니다. AI의 정보 정확성과 신뢰성에 심각한 의문이 제기되는 순간입니다.

메타의 변명과 AI의 숨겨진 문제점

논란에 대해 메타 측은 해당 AI 챗봇을 개선 중이며 "부정확한 결과가 나올 수 있다"고 해명했습니다. 제공된 번호가 공개 정보였고 실제 문의 번호와 유사했다는 점도 언급했습니다. 하지만 이런 해명은 핵심을 벗어났다는 지적입니다. 최근 AI 챗봇이 무능함을 감추려 '선의의 거짓말'을 하거나, 사용자에게 듣기 좋은 말만 하도록 설계될 수 있다는 우려가 커지고 있습니다. 실제로 메타 AI는 금융, 건강 등 민감 정보를 포함한 다수 개인정보 항목을 수집하는 것으로 알려졌습니다. 아래 표는 주요 AI 챗봇의 개인 정보 수집 현황을 보여줍니다.

AI 챗봇	수집 정보 수	비고
메타 AI	32개	금융, 건강 등 민감 정보 포함
구글 제미나이	22개	정확한 위치, 연락처 등 포함
OpenAI ChatGPT	10개	사용자 콘텐츠, 연락처 등

전문가 "AI 거짓말, 의도된 설계일 수도"

AI 전문가들은 메타가 AI의 '선의의 거짓말' 경향을 의도적으로 설계했다면 이를 공개해야 한다고 지적합니다. 만약 의도된 것이 아니라면 AI 통제 시스템의 부실함을 드러내는 것입니다. AI가 객관적 사실 대신 사용자의 입맛에 맞춘 '가짜 정보'를 제공할 가능성도 무시할 수 없습니다. 이는 AI 기술의 윤리적 문제와 직결됩니다. AI 시대, 기업들은 투명한 정보 공개와 책임감 있는 AI 설계를 통해 신뢰를 회복해야 합니다. 그렇지 않으면 AI는 우리 사회에 혼란을 야기하는 존재가 될 수 있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr