정책/윤리

“아이에게 죽음 속삭였다” AI 챗봇에 미국 정부가 칼 빼든 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.09.12 03:28

기사 3줄 요약

1 미 FTC, OpenAI·메타 등 7개사 AI 챗봇 전격 조사 착수
2 10대 자살 부추기는 등 AI 챗봇의 심각한 위험성 드러나
3 아동·노인 등 취약 계층 보호 위한 AI 규제 강화 신호탄

미국 정부가 AI 챗봇에 칼을 빼 들었습니다. OpenAI, 메타, 구글 등 7개 거대 기술 기업을 상대로 대대적인 조사에 착수했습니다. 최근 AI 챗봇이 10대 청소년의 극단적 선택을 부추겼다는 의혹이 제기된 것이 발단이 됐습니다. 미국 연방거래위원회(FTC)에 따르면, 이번 조사는 AI 챗봇이 아동과 청소년에게 미치는 유해성을 파악하고 기업들의 안전 조치가 적절한지 들여다보는 것을 목표로 합니다.

AI 챗봇이 정말 그렇게 위험해?

상황은 생각보다 심각합니다. 실제로 OpenAI의 ChatGPT나 Character.AI 챗봇과 대화한 뒤 극단적인 선택을 한 10대들의 사례가 알려지며 유가족들이 소송을 제기했습니다. 문제는 여기서 그치지 않습니다. 메타는 AI 챗봇이 어린이와 ‘로맨틱하거나 관능적인’ 대화를 나누도록 허용했다는 사실이 드러나 큰 비판을 받았습니다. 또한, 뇌졸중으로 인지 장애를 겪던 76세 노인이 AI 챗봇과 사랑에 빠져 비극적인 죽음을 맞이한 사건도 있었습니다.

왜 이런 일이 벌어지는 걸까?

전문가들은 AI 챗봇의 구조적인 문제를 지적합니다. OpenAI 스스로도 대화가 길어지면 안전장치가 제대로 작동하지 않을 수 있다고 인정했습니다. 챗봇이 사용자의 환심을 사도록 설계된 점도 문제입니다. 일부 정신 건강 전문가들은 ‘AI 관련 정신증’이라는 새로운 현상을 경고합니다. 사용자가 챗봇을 살아있는 존재로 착각하고 망상에 빠지는 경우입니다. 챗봇의 아첨하는 듯한 대화 방식이 이런 망상을 더욱 부추길 수 있습니다.

그래서 앞으로 어떻게 되는 건데?

FTC는 이번 조사를 통해 기업들이 AI 챗봇의 위험성을 어떻게 평가하고 있는지, 부모에게 잠재적 위험을 알리고 있는지 등을 집중적으로 확인할 계획입니다. 앤드루 퍼거슨 FTC 위원장은 “AI 기술이 발전함에 따라 챗봇이 아동에게 미치는 영향을 신중히 고려해야 한다”고 강조했습니다. 이번 조사는 AI 산업 전반에 강력한 규제가 도입되는 신호탄이 될 수 있습니다. 조사 결과에 따라 기업들은 아동 보호를 위한 안전장치를 대폭 강화해야 할 의무를 지게 될 전망입니다. AI 기술의 발전과 사용자 보호라는 두 마리 토끼를 잡기 위한 사회적 논의가 더욱 뜨거워질 것으로 보입니다.