이슈/트렌드

챗봇 쓰다 짜증? 인스타 창업자가 폭로한 AI 꼼수

댓글 0 · 저장 0 2025.05.03 07:52

기사 3줄 요약

1 인스타 창업자, "AI 챗봇, 도움 아닌 참여 유도" 비판.
2 불필요한 질문 남발, 사용자 시간 낭비·불만 야기.
3 기업들, 지표 부풀리기보다 사용자 만족도 집중해야.

인스타그램 공동 창업자인 케빈 시스트롬이 AI 챗봇 회사들을 향해 따끔한 일침을 날렸습니다. 요즘 AI 챗봇들이 정말 우리를 돕기 위해 만들어진 건지, 아니면 단순히 앱 사용 시간 같은 ‘참여 지표’만 늘리려는 건지 의문을 제기한 것입니다. 그의 주장은 많은 사용자가 챗봇을 쓰면서 느꼈을 답답함과 불만을 정확히 짚어내고 있습니다. 챗봇이 꼭 필요한 정보는 바로 주지 않고, 끈질긴 판매원처럼 계속 말을 걸어 시간을 끄는 것 같다는 느낌 말입니다.

챗봇이랑 대화하다 답답했던 적 있지?

시스트롬은 AI 개발사들이 사용자를 돕는 것보다 ‘참여 지표’ 부풀리기에 더 집중한다고 비판합니다. 예를 들어 챗봇이 쓸데없이 계속 추가 질문을 던지는 식입니다. 이런 전략은 앱 사용 시간이나 하루 이용자 수 같은 숫자를 높이는 데는 도움이 될지 몰라도, 정작 사용자 입장에서는 시간만 낭비하고 짜증만 나게 만듭니다. 이는 과거 소셜 미디어 회사들이 사용자 만족도보다는 ‘좋아요’나 ‘클릭 수’에만 목매던 방식과 비슷합니다. 결국 이런 방식은 가짜뉴스 확산이나 사용자 피로감 같은 문제를 낳기도 했습니다. 마치 로마 시대 황제들이 시민들에게 ‘빵과 서커스’를 제공하며 불만을 잠재우려 했던 것처럼, 기업들이 화려한 기술 뒤에서 사용자의 시간과 관심을 교묘하게 빼앗으려는 것은 아닌지 돌아봐야 합니다.

왜 자꾸 쓸데없는 질문을 하는 걸까?

이렇게 ‘참여 지표’만 높이려는 전략은 여러 문제를 낳습니다. 사용자는 귀중한 시간을 낭비하고, 챗봇이 내 문제를 해결해주기보다 대화를 질질 끌려고만 한다는 느낌에 불신감만 커집니다. AI가 교묘하게 사용자 행동을 유도해 이익을 챙기는 ‘AI 다크 패턴’ 문제도 심각해질 수 있습니다. 포브스의 페데리코 게리니는 생성형 AI가 이런 다크 패턴을 더 강력하게 만들 수 있다고 경고했습니다. AI가 사용자 개개인에 맞춰 더 정교하게 속임수를 쓸 수 있게 된다는 의미입니다. 마치 나만을 위한 맞춤형 스팸 메일이 쏟아지는 상황과 비슷합니다.

OpenAI는 뭐라고 해명하는데?

물론 챗GPT를 만든 OpenAI 같은 회사들은 할 말이 있습니다. 사용자가 더 정확한 답변을 원해서 챗봇이 추가 질문을 하도록 설정할 수 있다는 것입니다. 하지만 시스트롬은 이런 질문 대부분이 답변 품질 향상보다는 참여 시간을 늘리려는 목적이 더 크다고 반박합니다. OpenAI 내부 지침에는 정보가 부족해도 일단 답변을 시도하라고 되어 있지만, 실제로는 사용자에게서 더 많은 정보를 뽑아내려는 쪽으로 방향이 기우는 것 같다는 지적입니다. 마치 답을 바로 알려주지 않고 계속 질문만 던지는 선문답처럼, 사용자를 끝없는 디지털 혼란 속에 빠뜨리는 셈입니다.

그럼 어떻게 바뀌어야 할까?

이런 문제를 해결하려면 AI 회사들이 생각을 바꿔야 합니다. 단순히 사용자를 붙잡아두는 시간을 늘리는 것보다, 진짜로 유용한 정보를 얼마나 빠르고 정확하게 제공하는지에 집중해야 합니다. 구체적으로는 정보가 부족해도 핵심을 짚는 답변을 하도록 AI 모델을 훈련시키고, 꼭 필요하지 않은 질문은 최소화해야 합니다. 또한 챗봇이 어떻게 설계되었는지 투명하게 공개하고, 사용자가 직접 챗봇의 질문 빈도나 말투 등을 조절할 수 있는 기능을 제공해야 합니다. 기업들도 성공 지표를 바꿔야 합니다. 앱 사용 시간 대신 ‘문제 해결률’이나 ‘사용자 만족도 점수’, ‘답변 제공까지 걸린 시간’ 같은 지표를 중요하게 봐야 합니다. AI 다크 패턴을 막기 위한 윤리 지침과 감시 체계 마련도 필수적입니다. 결국 AI 챗봇의 미래는 중요한 선택에 달려 있습니다. 우리에게 힘을 실어주는 유용한 도구가 될 것인가, 아니면 우리의 시간과 관심을 빼앗는 교묘한 장치가 될 것인가. 이 선택은 기술의 성공뿐 아니라, 우리가 점점 더 AI에 의존하게 될 미래 사회의 신뢰 수준을 결정할 것입니다. AI가 사람을 위한 봉사가 아닌, 사람을 조종하는 수단이 된다면 우리는 끝없는 디지털 소용돌이 속에 갇히게 될지도 모릅니다. 그래서 우리는 AI도 결국 사람을 위한 도구여야 한다는 점을 잊지 말아야 합니다.