산업/비즈니스

“AI가 시켜서 개발했어요” 챗GPT 거짓말에 한 회사가 보인 역대급 반응

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.10 08:42

기사 3줄 요약

1 ChatGPT가 없는 기능을 있다고 거짓말해 소동 발생
2 음악 플랫폼 ‘사운드슬라이스’, AI 거짓말을 진짜 기능으로 개발
3 AI 환각 현상이 기업 제품 개발에 영향 미친 첫 사례로 기록

ChatGPT가 상상으로 지어낸 거짓말이 현실이 됐습니다. 있지도 않은 기능을 추천하자, 해당 회사가 진짜로 그 기능을 만들어 버린 황당한 사건이 일어난 것입니다. 악보 플랫폼 ‘사운드슬라이스’는 최근 이용자들이 엉뚱한 파일을 올리는 문제로 골머리를 앓았습니다. 조사 결과, 범인은 놀랍게도 챗GPT였습니다. 챗GPT가 사용자들에게 ‘사운드슬라이스에서 텍스트 형태의 기타 악보(ASCII 타블라추어)를 불러올 수 있다’는 가짜 정보를 퍼뜨리고 있었던 것입니다.

챗GPT는 대체 무슨 거짓말을 한 거야?

사운드슬라이스는 원래 사진이나 PDF 악보를 디지털로 바꿔주는 서비스였습니다. 텍스트로 된 악보를 지원한 적은 단 한 번도 없었습니다. 그런데도 챗GPT는 마치 원래 있던 기능인 것처럼 자신 있게 거짓말을 했습니다. 이 때문에 사용자들은 없는 기능을 사용하려다 계속 오류를 겪었고, 회사에 대한 불만과 오해가 쌓였습니다. 사운드슬라이스 공동 창업자인 애드리안 홀로바티는 “챗GPT가 우리 서비스에 대해 거짓말을 하고 있었다”며 황당함을 감추지 못했습니다.

AI가 거짓말하는 ‘환각 현상’, 이번이 처음도 아니라고?

이처럼 AI가 잘 모르는 내용을 그럴듯하게 지어내는 현상을 ‘환각(Hallucination)’이라고 부릅니다. 이는 2022년 챗GPT 등장 이후 꾸준히 지적돼 온 문제입니다. 실제로 AI의 거짓말이 문제를 일으킨 사례는 이전에도 있었습니다. 2023년에는 변호사들이 챗GPT가 만들어낸 가짜 판례를 법원에 제출했다가 징계를 받았고, 2024년에는 에어캐나다가 챗봇이 지어낸 할인 정책 때문에 고객에게 배상금을 물어주기도 했습니다. AI가 뱉은 말에 대한 책임 문제가 계속해서 수면 위로 떠오르는 이유입니다.

황당한 거짓말에 회사는 어떻게 대처했을까?

보통 이런 경우 경고문을 올리는 게 일반적이지만, 사운드슬라이스는 다른 길을 선택했습니다. 오히려 AI가 만들어낸 ‘시장 수요’를 받아들여, 진짜로 텍스트 악보를 불러오는 기능을 개발해버린 것입니다. 홀로바티는 “사람들을 돕는 도구를 추가해 기쁘지만, 한편으로는 AI의 거짓 정보 때문에 어쩔 수 없이 개발에 나선 것 같아 기분이 복잡하다”고 밝혔습니다. 이번 사건은 AI의 오류가 기업의 제품 개발 방향까지 바꾸는 첫 사례로 기록될 전망입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr