정책/윤리

미국인 1/6 쓰는 AI 건강 챗봇, '오진' 위험 경고

댓글 0 · 저장 0 2025.05.06 07:00

기사 3줄 요약

1 AI 건강 챗봇 상담, 유용성 낮다는 연구 결과 발표
2 이용자들, 정보 부정확성 및 오진 가능성 경험
3 옥스퍼드대, AI 챗봇의 위험성과 해결책 촉구

요즘 몸이 좀 안 좋으면 AI 챗봇에게 물어보는 사람들이 늘고 있습니다. 하지만 이런 AI 건강 챗봇이 오히려 환자에게 해가 될 수 있다는 경고가 나왔습니다. 영국 옥스퍼드 대학 연구팀은 사람들이 AI 챗봇에게 유용한 건강 정보를 얻는 데 어려움을 겪고 있으며, 이는 심각한 위험을 초래할 수 있다고 밝혔습니다. 지금 당장 해결책이 필요하다는 목소리가 커지고 있습니다. 미국 성인 6명 중 1명은 매달 건강 문제로 챗봇과 상담한다고 합니다. 하지만 이 편리함 뒤에는 위험이 숨어있습니다. 옥스퍼드 연구팀이 영국인 1,300명을 대상으로 조사한 결과, 챗봇을 사용하면 오히려 스스로 병을 정확히 진단할 확률이 낮아지고, 병의 심각성을 과소평가할 위험은 커지는 것으로 나타났습니다.

챗봇 상담, 뭐가 문제인데?

연구에 참여한 아담 마흐디 박사는 사용자들이 챗봇에게 핵심적인 내용을 빼놓고 말하는 경향이 문제라고 지적했습니다. 마치 반쪽짜리 정보만 듣고 진단하는 의사처럼, 챗봇도 부족한 정보로 정확하지 않거나 오해하기 쉬운 조언을 뒤섞어 내놓게 됩니다. 이 때문에 사용자들은 어떤 정보가 맞는지 혼란스러워 합니다.

그럼에도 기업들은 왜 밀어붙일까?

이런 문제점에도 불구하고 애플, 아마존, 마이크로소프트 같은 거대 기술 기업들은 AI를 의료 분야에 적극적으로 도입하고 있습니다. 하지만 미국 의사협회(AMA)는 챗GPT 같은 챗봇을 실제 진료에 사용하는 것에 대해 신중해야 한다고 경고합니다. 챗GPT를 만든 오픈AI조차 챗봇의 답변만으로 스스로 진단하는 것은 위험하다고 말합니다. 전문가들은 검증된 정보원을 이용하고, AI 시스템이 실제 의료 현장에 도입되기 전에 엄격한 검증을 거쳐야 한다고 강조합니다.

위험하다면서, 해결책은 있어?

AI 챗봇의 위험성은 현실이며 매우 중요합니다. 가장 큰 문제점 몇 가지와 해결책은 다음과 같습니다. * 엉뚱한 정보 제공: AI가 검증된 의료 정보(예: 미국 국립보건원(NIH) 자료)만 학습하도록 하고, 계속 최신 정보로 업데이트해야 합니다. * 소통 문제: 사용자가 중요한 정보를 빠뜨리지 않도록, 챗봇이 필요한 질문을 되묻는 기능을 강화해야 합니다. (예: "가슴이 아프다"고 하면, "통증이 어떤 느낌인지, 언제부터 아팠는지, 다른 증상은 없는지" 등을 구체적으로 묻도록 설계) * 개인정보 유출: 민감한 건강 정보가 새어나가지 않도록 강력한 암호화, 접근 통제 등 보안 조치가 필수입니다. HIPAA(미국 의료정보보호법) 같은 규제 준수도 중요합니다. * 검증 부족: 실제 병원에서 AI 챗봇의 성능을 테스트하고, 의사의 진단과 비교하는 과정이 필요합니다. 통계적인 방법을 사용해 신뢰도를 철저히 평가해야 합니다. 미국 의사협회(AMA) 같은 기관들은 AI에 대한 감독 강화, 투명한 정보 공개, 책임 소재 명확화, 개인정보 보호 및 보안 강화를 요구하고 있습니다. 챗봇 개발사들 역시 안전 조치와 지속적인 위험 평가의 필요성을 강조합니다. 이런 위험들을 해결하기 위한 다각적인 노력은 단순한 권장 사항이 아니라 도덕적 의무입니다. 그래야만 우리는 AI 챗봇의 잠재력을 제대로 활용하면서 환자의 안전을 지킬 수 있습니다. 하지만 완벽한 개인정보 보호와 최고 수준의 데이터 품질을 동시에 달성하는 것은 매우 어렵습니다. 또한 꼭 필요한 사람의 감독조차 편견에서 자유로울 수 없다는 불편한 진실도 있습니다. 이는 단순한 기술적 오류가 아니라, AI를 의료 시스템에 통합하면서 우리가 정면으로 마주해야 할 근본적인 문제입니다. 단순히 알고리즘을 믿는 것은 너무 위험한 도박입니다.