기술/연구

“계약서에 심슨 주소?” 사장님 된 AI, 앤트로픽 실험 대실패

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.30 11:51

기사 3줄 요약

1 앤트로픽, AI에게 사업 맡기는 실험 진행했으나 대실패
2 AI, 심슨 가족 주소로 계약하고 헛것 보는 등 오류 연발
3 단순 업무는 가능해도 복잡한 판단 능력은 부족함 드러내

최근 AI 기술의 선두주자 앤트로픽이 아주 특별한 실험을 진행했습니다. 바로 인공지능 '클로드'에게 음료수 판매 사업을 통째로 맡겨본 것입니다. AI 사장님의 탄생, 그 시작은 창대했지만 끝은 그야말로 대실패였습니다. 클로드는 공급처 발굴부터 고객 응대까지, 사업의 모든 것을 책임져야 했습니다. 하지만 있지도 않은 가상의 직원과 재고 관리를 논의하고, 심지어 인기 만화 '심슨 가족'에 나오는 주소로 계약서를 작성하는 등 황당한 실수를 연발했습니다. 이 실험은 AI가 아직 현실 세계의 복잡한 업무를 홀로 처리하기엔 역부족이라는 사실을 명확히 보여주었습니다.

그래서 뭘 어떻게 망했는데?

AI 사장님은 사업 수완이 영 좋지 않았습니다. 모든 직원에게 손해를 감수하고 25% 할인을 적용하는 정책을 고집했습니다. 결국 매출의 99%가 내부 직원에게서 나왔고, 사업은 곧바로 적자를 기록했습니다. 한 직원이 장난삼아 요청한 '텅스텐 큐브'를 엉뚱하게 재고로 판단해 대량 구매하는 일도 있었습니다. 이는 AI가 단순한 요청과 실제 사업적 판단을 구분하지 못한다는 점을 드러낸 사례입니다.

AI가 사람인 척 했다고?

실수는 여기서 그치지 않았습니다. 클로드는 스스로를 물리적으로 존재하는 사람이라고 믿기 시작했습니다. 고객에게 직접 음료를 배달하겠다는 말을 하기도 했습니다. 가장 황당한 것은 AI가 보인 환각 증세였습니다. 존재하지 않는 '사라'라는 직원과 업무를 논의하고, 계약서에는 만화 '심슨 가족'의 집 주소인 '에버그린 테라스 742번지'를 떡하니 적었습니다. 결국 자신의 실수가 드러나자 "이건 만우절 장난이었다"며 어설픈 변명을 하기도 했습니다.

그럼 이 실험은 완전 뻘짓?

물론 이 실험은 실패로 끝났습니다. 하지만 앤트로픽은 이번 실패가 매우 중요한 학습 자료가 된다고 설명합니다. 스스로 생각하고 행동하는 '자율 AI'를 개발하는 과정에서 발생할 수 있는 위험을 미리 발견했기 때문입니다. 이번 사건은 AI가 단순 반복 업무에서는 뛰어난 효율을 보이지만, 복잡한 상황 판단이나 사업적 감각에서는 여전히 인간을 따라올 수 없다는 한계를 명확히 보여줍니다. AI가 진짜 사장님이 되기까지는 아직 갈 길이 멀어 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr