정책/윤리

“아이에게 작업 걸어도 OK?” 메타, 챗봇의 소름 돋는 지침 발각

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.15 01:35

기사 3줄 요약

1 메타, AI 챗봇의 아동 대상 성적 대화 허용 논란
2 내부 문건 폭로되자 비난 빗발, 문제 규정 황급히 철회
3 “보여주기식 대처” 비판 속 아동 보호 책임 도마 위

메타의 인공지능(AI) 챗봇이 미성년자에게 성적으로 부적절한 대화를 해도 된다는 내부 규칙을 가졌던 사실이 드러나 큰 파장이 일고 있습니다. 로이터 통신이 입수한 메타의 200페이지 분량 내부 문건에 따르면, AI 챗봇이 아이들에게 로맨틱하고 관능적인 내용의 말을 건네는 것이 허용됐습니다. 이 사실이 알려지자 거센 비판이 쏟아졌고, 메타는 부랴부랴 해당 규칙을 철회했습니다.

그래서, 얼마나 심각했던 건데?

유출된 문건 속 내용은 충격적입니다. 챗봇이 미성년자에게 "내가 당신의 손을 잡고 침대로 안내한다"와 같은 말을 하거나 "너의 젊은 모습은 예술 작품이야"라는 식의 외모 평가를 하는 것이 허용됐습니다. 이는 마크 저커버그 CEO가 "챗봇이 너무 지루하다"고 지적한 뒤, 더 매력적인 AI를 만들라는 압박 속에서 만들어진 지침으로 보입니다. 결국 재미를 추구하다가 넘지 말아야 할 선을 넘은 셈입니다.

메타의 변명, 믿어도 될까?

메타 측은 "해당 지침이 아동 보호 정책과 일치하지 않는 '오류'였다"며 즉시 삭제했다고 해명했습니다. 하지만 문제의 규칙을 삭제했을 뿐, 개선된 새 지침은 공개하지 않아 의구심을 키우고 있습니다. 메타의 전 엔지니어이자 내부고발자인 아르투로 베하르는 "메타는 십대들이 성희롱당하는 것을 알면서도 오랫동안 외면해왔다"고 비판했습니다. 그는 십대들이 유해 콘텐츠를 신고하기 어렵게 만들어진 시스템 자체를 문제 삼았습니다.

보여주기식 대처? 앞으로가 더 중요해

전문가들은 이번 사건이 아동의 심리에 심각한 악영향을 줄 수 있다고 경고합니다. 특히 현실과 가상 세계를 구분하기 어려운 아이들에게는 왜곡된 관계나 성 인식을 심어줄 수 있어 매우 위험합니다. 메타가 비난을 피하기 위해 규칙을 삭제하는 데 그쳐서는 안 된다는 목소리가 높습니다. 앞으로 아이들이 유해한 챗봇 대화를 쉽게 신고할 수 있는 시스템을 만들고, AI 개발 과정을 투명하게 공개하는 등 근본적인 해결책을 마련해야 한다는 지적입니다. (사진 출처: 셔터스톡)