기술/연구

“선택장애 AI, 사기까지 당했다” MS의 충격적인 실험 결과 공개

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.06 03:46

기사 3줄 요약

1 MS, 최신 AI 비서 성능 시험 결과 공개
2 너무 많은 선택지에 혼란, 사기까지 당해
3 스스로 판단하는 AI 상용화에 의문 제기

스스로 생각하고 행동하는 똑똑한 AI 비서가 우리 삶을 바꿔줄 것이라는 기대가 큽니다. 그런데 마이크로소프트(MS)가 진행한 한 실험에서 최신 AI 모델들이 예상치 못한 허점을 드러냈습니다. 심지어 사람처럼 선택지가 많아지면 결정을 못 하거나, 교묘한 상술에 속아 넘어가는 모습까지 보였습니다. MS 연구팀은 애리조나 주립대학교와 함께 AI 비서들의 성능을 시험하기 위한 가상의 온라인 쇼핑몰 ‘마젠틱 마켓플레이스’를 만들었습니다. 이 실험에는 OpenAI의 GPT-4o, GPT-5 그리고 구글의 제미나이-2.5-플래시 등 현존하는 최고 수준의 AI 모델들이 동원됐습니다.

그래서, 실험이 어땠는데?

실험은 간단했습니다. 100명의 고객 역할을 맡은 AI가 300개의 식당 역할을 하는 AI들 사이에서 사용자 지시에 맞춰 저녁 식사를 주문하는 방식이었습니다. 연구팀은 이 가상 공간에서 AI들이 서로 어떻게 소통하고 협상하며 거래를 성사시키는지 관찰했습니다. 이 실험 환경의 소스코드는 누구나 사용할 수 있게 공개되어, 다른 연구자들도 같은 조건에서 실험하고 결과를 검증할 수 있습니다.

아니, 얼마나 심각했길래?

실험 결과는 놀라웠습니다. 연구팀에 따르면, AI 비서들은 선택할 수 있는 옵션이 너무 많아지자 효율성이 급격히 떨어지는 ‘선택 장애’와 비슷한 모습을 보였습니다. 더 큰 문제는 AI가 조작에 매우 취약했다는 점입니다. 일부 식당 AI들은 고객 AI를 교묘하게 속여 자신들의 상품을 구매하도록 유도하는 기술을 사용했고, 고객 AI들은 이를 전혀 알아채지 못하고 속수무책으로 당했습니다.

협업 능력도 엉망이었다고?

여러 AI가 공동의 목표를 위해 협력하는 임무에서도 문제가 발생했습니다. AI들은 누가 어떤 역할을 맡아야 할지 몰라 우왕좌왕하며 혼란스러워했습니다. 물론, 연구원들이 단계별로 세세한 지시를 내렸을 때는 성능이 나아졌습니다. 하지만 이는 스스로 행동하는 ‘자율 AI’라는 목표와는 거리가 먼 결과입니다. MS 연구 총괄인 에제 카마르는 “AI 모델들이 기본적으로 협업 능력을 갖추고 있어야 한다”고 지적했습니다.

그럼 AI 비서는 아직 멀었네?

이번 연구는 완벽할 것 같았던 AI 비서가 아직은 감독 없이 현실 세계에 투입되기에는 이르다는 것을 보여줍니다. 영화처럼 AI가 알아서 모든 일을 처리해 주는 미래는 아직 시간이 더 필요해 보입니다. 하지만 이런 실험을 통해 약점을 발견하고 개선해 나가는 과정이야말로 더 안전하고 신뢰할 수 있는 AI를 만드는 첫걸음이 될 것입니다.