산업/비즈니스

“AI 거짓말이 현실이 됐다…” 황당한 환각 현상에 개발자 결국 굴복

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.10 02:45

기사 3줄 요약

1 ChatGPT, 음악 앱 ‘사운드슬라이스’의 없는 기능을 있다고 거짓말
2 창업자, 이용자 혼란과 회사 평판 고려해 거짓 기능을 진짜로 개발
3 AI의 ‘환각 현상’이 실제 비즈니스 결정에 영향을 미친 사례로 주목

AI가 만든 그럴싸한 거짓말 때문에, 있지도 않던 제품 기능이 현실이 되는 황당한 사건이 벌어졌습니다. 심지어 AI는 이 기능을 홍보하는 최고의 영업사원 역할까지 했습니다. 음악 교육 앱 ‘사운드슬라이스(Soundslice)’의 창업자 애드리안 홀로바티는 최근 몇 주간 이어진 미스터리를 해결했습니다. 바로 그의 앱에 정체불명의 ChatGPT 대화 세션 스크린샷이 계속해서 업로드되고 있었기 때문입니다. 결론부터 말하면, ChatGPT가 그의 앱에 대해 거짓말을 하고 있었고, 그는 결국 그 거짓말을 현실로 만들기로 결정했습니다.

그래서 무슨 일이 있었는데?

사운드슬라이스는 종이 악보 이미지를 올리면, AI가 이를 인식해 연주와 함께 볼 수 있는 양방향 악보로 만들어주는 앱입니다. 홀로바티는 기능 개선을 위해 오류 기록을 살피던 중 이상한 점을 발견했습니다. 악보가 아닌, ChatGPT 대화 화면 이미지가 계속 올라오고 있었던 것입니다. 이 이미지들은 ‘아스키 태블러처(ASCII tablature)’라는, 일반 키보드 문자로 만든 오래된 방식의 기타 악보였습니다. 사운드슬라이스는 원래 이런 형식의 악보를 지원하지 않았습니다. 그는 도대체 왜 사용자들이 이런 이미지들을 올리는지 이해할 수 없었습니다.

ChatGPT는 왜 거짓말을 했을까?

홀로바티가 직접 ChatGPT를 사용해보고 나서야 모든 미스터리가 풀렸습니다. ChatGPT가 사용자들에게 “이 아스키 악보를 들으려면 사운드슬라이스에 이미지를 업로드하세요”라고 자신 있게 안내하고 있었던 것입니다. 물론 이는 완벽한 거짓 정보였습니다. 이 ‘환각 현상’ 때문에 새로 가입한 사용자들은 잘못된 기대를 품게 되었고, 이는 회사의 평판에 직접적인 타격을 줄 수 있었습니다. 그는 존재하지도 않는 기능 때문에 잠재 고객을 실망시킬 순 없다고 판단했습니다.

개발자의 선택, 그리고 남은 질문들

그의 앞에는 두 가지 선택지가 있었습니다. ‘ChatGPT의 정보는 거짓’이라는 안내문을 붙이거나, 아니면 아예 그 기능을 실제로 만들어 버리는 것이었습니다. 그는 결국 후자를 선택했습니다. 홀로바티는 “이상한 방식으로 등 떠밀려 기능을 개발하게 된 기분”이라며 복잡한 심경을 밝혔습니다. 이 소식을 접한 다른 개발자들은 “마치 앞뒤 안 가리고 계약부터 따오는 영업사원 때문에 어쩔 수 없이 신기능을 개발하는 것과 같다”며 흥미로운 반응을 보였습니다. 이 사건은 AI의 그럴싸한 거짓말이 실제 비즈니스에 어떤 영향을 미칠 수 있는지 보여주는 대표적인 사례로 남게 되었습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr