정책/윤리

ADHD 책 8권 전부 AI 가짜? 아마존 믿었다간 큰일나

댓글 0 · 저장 0 2025.05.05 23:58

기사 3줄 요약

1 아마존 AI 생성 건강 서적, 가짜 정보 확산 우려.
2 규제 부재 속 잘못된 의학 정보로 피해 가능성 커져.
3 AI 생성 표기 의무화 등 안전 장치 마련 시급해.

세계 최대 전자상거래 업체 아마존에서 인공지능(AI)이 쓴 가짜 책들이 무분별하게 팔리고 있어 큰 문제입니다. 특히 건강 관련 서적에서 이런 문제가 심각한데, 최근 한 분석에 따르면 아마존에서 팔리는 ADHD(주의력 결핍 과잉 행동 장애) 관련 책 8권이 전부 AI가 작성한 것으로 드러났습니다. 이는 단순한 통계를 넘어, 기술 발전의 윤리적 문제를 보여주는 심각한 신호입니다.

아마존에 AI 유령 작가가 판친다고?

전문가들은 강력한 규제가 없는 아마존이 사실상 '무법지대'가 되었다고 지적합니다. 특히 건강이나 의료 서적에 담긴 잘못된 정보는 오진이나 상태 악화 등 심각한 건강 문제로 이어질 수 있습니다. 챗GPT 같은 AI 시스템은 진실을 가려내는 능력이 없습니다. 검증된 의학 정보뿐 아니라, 유사 과학이나 음모론 같은 잘못된 정보까지 그대로 학습해 아무런 비판 없이 뱉어내기 때문입니다.

가짜 건강 정보, 뭐가 문제인데?

실제로 한 성인 ADHD 환자는 AI가 쓴 책에서 조기 사망률에 대한 충격적이고 아마도 조작된 주장을 포함한 해로운 조언을 발견했다고 합니다. 이는 단순한 이론적 위험이 아니라, 실제 피해 사례가 발생하고 있음을 보여주는 무서운 경고입니다. 소비자는 어떤 정보가 믿을 만한 전문가의 글인지, AI가 만들어낸 허구인지 구별하기 어렵습니다.

책임은 누가 지나?

문제의 핵심은 책임 소재입니다. 아마존은 이런 책들의 진위 여부와 관계없이 판매를 통해 막대한 이익을 얻습니다. 반면, 이 정보 혼란을 야기한 AI 개발사들은 자신들이 만든 결과물의 정확성이나 안전성에 대해 아무런 책임을 지지 않습니다. AI가 생성한 책에 대한 의무적인 표기 규정이 없다는 점도 문제입니다. 기존 출판계의 안전장치를 무력화시키고 소비자를 혼란에 빠뜨립니다. 아마존은 자체 콘텐츠 가이드라인이 있고 위반 콘텐츠를 삭제한다고 주장하지만, 현실은 그렇지 않다는 증거가 쌓이고 있습니다.

해결책은 없을까?

이 문제를 해결하려면 단순히 AI를 금지하는 것이 아니라, 엄격한 규제를 도입하고 투명성을 높이며 모든 이해관계자의 책임을 강화해야 합니다. 아마존은 보여주기식 대응을 넘어 플랫폼을 보호하기 위한 적극적인 조치에 투자해야 합니다. AI 기업들도 윤리적 의무를 인정하고 책임감 있는 AI 개발에 기여해야 합니다. 현재 방식은 지속 불가능합니다. 진실과 허구가 뒤섞이고, 알고리즘이 우리의 건강을 좌우하며, 기업은 결과에 대한 책임을 회피하는 미래로 나아가고 있습니다. 기술 발전과 인간의 지혜, 윤리적 고려 사이의 균형을 찾아야 할 때입니다.