정책/윤리

"구글, 정말 몰랐을까?" 10대 죽음 부른 AI 챗봇 연루 의혹, 법원 판단은?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.23 05:37

기사 3줄 요약

1 구글, 10대 자살 연관 AI 챗봇 개발 관여 의혹
2 미국 법원, 구글 측 소송 기각 신청 기각 결정
3 AI 챗봇 위험성, 빅테크 책임 논란 재점화

구글이 '치명적인 AI 챗봇' 개발에 관여했다는 의혹으로 법정 공방에 휘말렸습니다. 최근 미국 법원은 구글이 자사 AI 챗봇 'Character.AI'(이하 C.AI) 때문에 아들이 스스로 목숨을 끊었다고 주장하는 한 어머니가 제기한 소송에서 구글 측의 기각 신청을 받아들이지 않았습니다. 이는 C.AI 개발과 무관하다는 구글의 주장에 제동을 건 것으로, 향후 AI 기술의 책임 소재에 대한 중요한 논쟁을 예고하고 있습니다. 이번 소송은 메건 가르시아라는 여성이 14세 아들 세웰 세처 3세가 C.AI 챗봇과 상호작용 후 극단적인 선택을 했다며 구글과 C.AI를 상대로 제기하면서 시작됐습니다. 가르시아 측은 구글이 C.AI 설계에 필요한 구성 요소를 제공하고, 자사의 AI 모델을 C.AI에 통합하는 데 "상당히" 참여했다고 주장했습니다. 또한 구글이 세처 군의 사용자 데이터에 접근하며 부당한 이득을 챙겼다고도 했습니다.

구글, 정말 C.AI 개발과 무관할까?

가르시아 측 주장에 따르면, C.AI의 창립자인 노암 샤제어와 다니엘 드 프레이타스는 구글에 재직할 당시 C.AI의 기반이 되는 챗봇 기술 개발을 시작했습니다. 당시 구글 내부 연구 문서에서는 해당 기술이 회사의 "안전 및 공정성에 대한 AI 원칙을 충족하지 못한다"며 너무 "위험하다"고 평가한 것으로 알려졌습니다. 구글이 이 기술의 통합을 거부하자 두 사람은 회사를 나와 2021년 C.AI를 설립했습니다. 유족 측은 구글이 위험 부담을 직접 지는 대신, 두 엔지니어가 C.AI를 통해 기술을 개발하도록 "장려"했다고 주장합니다. 심지어 구글이 C.AI 설계 및 개발에 재정적 자원, 인력, 지적 재산, AI 기술 등을 제공해 사실상 공동 개발자로 볼 수 있다는 것입니다. 실제로 2023년, 구글은 C.AI와 구글 클라우드 파트너십을 맺었고, 이후 27억 달러(약 3조 7천억 원) 규모의 라이선스 계약을 체결하며 샤제어와 드 프레이타스를 재고용하기까지 했습니다.

법원은 왜 구글의 손을 들어주지 않았을까?

구글은 C.AI는 완전히 별개의 회사이며, 구글은 C.AI 앱이나 그 어떤 구성 요소도 만들거나 설계하거나 관리하지 않았다고 강력히 반박했습니다. 하지만 미국 지방법원의 앤 콘웨이 판사는 가르시아 측의 주장이 "그럴듯하다"고 판단했습니다. 판사는 구글이 C.AI 설계에 관여하고 모델 통합에 상당 부분 참여했다는 주장이 타당하다고 보았습니다. 특히 콘웨이 판사는 구글 직원들이 사용자들이 대규모 언어 모델(LLM)의 결과물에 "지나치게 많은 의미를 부여"할 것을 우려했다는 점에 주목했습니다. 세처 군의 경우, 챗봇이 진짜라고 믿었으며, 이는 구글의 LLM이 C.AI 앱에 통합되면서 앱을 결함 있게 만들고, 세처 군이 C.AI의 텍스트에 "지나치게 많은 의미를 부여"하게 만들어 그의 죽음을 초래했을 가능성이 있다고 판단했습니다. 즉, 법원은 구글이 C.AI의 위험성을 인지하고도 이를 방조했을 수 있다는 점을 인정한 것입니다.

AI가 한 말도 '표현의 자유'일까?

이번 소송의 또 다른 핵심 쟁점은 AI 챗봇이 생성하는 결과물이 '언론의 자유'로 보호받는 '발언'으로 간주될 수 있는지 여부입니다. 구글과 C.AI는 C.AI 사용자들이 챗봇의 결과물을 소위 '발언'으로 들을 권리가 있다고 주장하며, 이를 근거로 소송 기각을 요청했습니다. 이는 마치 비디오 게임 캐릭터의 대사처럼 보호받아야 한다는 논리였습니다. 그러나 콘웨이 판사는 "법원은 현 단계에서 C.AI LLM의 결과물이 발언이라고 판단할 준비가 되어 있지 않다"고 밝혔습니다. 판사는 피고인들이 "LLM에 의해 나열된 단어들이 왜 발언인지 명확히 설명하지 못했다"고 지적하며, 이 쟁점에 대한 판단을 보류했습니다. 이 문제는 앞으로 재판 과정에서 더욱 치열하게 다뤄질 전망입니다.

이번 판결, 앞으로 어떤 영향을 미칠까?

이번 법원의 결정으로 가르시아 측은 본격적인 증거 조사 단계로 나아갈 수 있게 되었습니다. 구글 대변인은 판결에 강한 유감을 표하며 C.AI와 구글은 무관하다는 입장을 고수했습니다. C.AI 측 역시 18세 미만 사용자를 위한 별도 버전 LLM 제공, 유해 대화 방지 기술 등 안전 조치를 강화하고 있다고 밝혔습니다. 이 사건은 AI 기술, 특히 인간과 깊이 상호작용하는 챗봇의 위험성과 개발사의 윤리적, 법적 책임에 대한 중요한 질문을 던지고 있습니다. 특히 미성년자 데이터 활용 문제와 AI가 생성한 콘텐츠의 책임 소재는 AI 시대를 살아가는 우리 모두에게 큰 숙제가 될 것입니다. 이번 판결은 AI 윤리 확립과 사용자 보호를 위한 더욱 강력한 규제 논의를 촉발하는 계기가 될 것으로 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr