기술/연구

“ChatGPT 매일 거짓말 한다?" 천재인 줄 알았던 AI의 섬뜩한 실체

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.28 07:08

기사 3줄 요약

1 AI '환각', 사실 아닌 정보 생성하는 심각한 문제 부상
2 전문가들, 환각은 AI 본질적 특성이며 단순 버그 아냐 지적
3 AI 답변 맹신 금물, 비판적 수용 자세가 중요해져

최근 인공지능(AI)이 만들어내는 가짜 정보, 이른바 '환각' 현상이 큰 문제로 떠오르고 있습니다. AI가 우리 생활 깊숙이 들어올수록 이 문제는 더욱 중요해지고 있습니다. 많은 사람들이 환각에 대해 안다고 생각하지만, 실제 AI를 사용할 때는 이를 간과하는 경우가 많습니다. 파이낸셜 타임스는 철학자 해리 프랑크푸르트의 말을 빌려 AI가 내뱉는 '헛소리'의 위험성을 강조했습니다. 프랑크푸르트는 거짓말보다 진실에 아예 관심 없는 헛소리가 더 해롭다고 지적했습니다. 거짓말쟁이는 적어도 진실 게임에 참여하지만, 헛소리꾼은 진실 자체를 무시하기 때문입니다.

AI가 자꾸 딴소리하는 이유, 뭘까?

대형언어모델(LLM)의 환각은 단순한 오류나 버그가 아닙니다. 있지도 않은 말을 지어내는 것은 AI 모델의 주요 기능 중 하나이기도 합니다. LLM은 이전 단어를 바탕으로 다음 단어를 예측하는 확률적 방식으로 작동하기 때문에, 마치 '확률적으로 말하는 앵무새'와 같다는 지적도 있었습니다. 몇 년 전만 해도 모델 성능이 좋아지면 환각도 줄어들 것이라는 기대가 컸습니다. 샘 알트먼 OpenAI CEO 같은 인물도 차세대 모델에서는 환각이 거의 사라질 것이라고 말하기도 했습니다. 하지만 최근 등장한 고성능 모델들조차 이전보다 환각이 늘어난 것으로 나타나, 이 문제가 쉽게 해결되지 않음을 보여주고 있습니다.

그래서, 이 ‘환각’이라는 거 고칠 수는 있는 거야?

앤트로픽 같은 최고 수준의 AI 개발사조차 환각 문제로 망신을 당한 사례가 있습니다. 이 때문에 요즘 AI 개발사들은 환각 문제 해결을 강조하기보다는, 인간의 생산성 향상이나 새로운 과학적 발견 같은 다른 장점에 초점을 맞추는 분위기입니다. 다리오 아모데이 앤트로픽 CEO는 심지어 인간보다 AI의 환각이 덜하다며, 이를 어쩔 수 없는 과정으로 설명하기도 했습니다. 물론 환각을 없애는 방법이 아예 없는 것은 아닙니다. AI에게 '사실 근거 없이는 답하지 말라'고 지시하면 됩니다. 하지만 이렇게 하면 챗GPT가 시를 쓰거나 그림을 그리는 창의적인 작업은 불가능해집니다. AI는 단순히 기존 정보를 검색해 보여주는 검색 엔진으로 전락하게 될 것입니다.

AI 헛소리, 그냥 웃어넘겨도 될까?

생성 AI가 유용한 이유는 틀린 말이 없어서가 아니라, 때로는 그 헛소리가 인간이 생각지 못한 기발함으로 이어질 수 있기 때문이라는 시각도 있습니다. 하지만 '진실이란 무엇인가'라는 기준부터 세워야 하는 어려운 문제에 부딪히게 됩니다. 결국 AI의 헛소리 문제는 우리가 평소 다른 사람의 말을 모두 믿지 않는 것처럼, AI의 답변도 무조건 신뢰해서는 안 된다는 결론에 이릅니다. AI를 진실만을 말하는 기계로 여기는 것은 매우 위험한 생각입니다. AI가 제공하는 정보는 항상 비판적으로 검토하고, 다양한 출처를 통해 사실 여부를 확인하는 자세가 필요합니다. 이것이 앞으로 우리가 AI 시대를 살아가는 데 있어 반드시 갖춰야 할 지혜일 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr