기술/연구

"'결국 터졌다!' 시한폭탄 앞에서 AI 로봇이 멈춘 충격적인 이유"

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.05 11:09

기사 3줄 요약

1 AI 로봇, 시한폭탄 앞서 연이어 임무 실패
2 '프레임 문제'로 상황 판단과 추론에 한계 드러내
3 철학자 데닛, AI 지능의 근본적 어려움 지적

똑똑한 줄 알았던 로봇이 눈앞의 시한폭탄을 보고도 속수무책으로 터져버렸습니다. 마치 중요한 시험을 앞두고 온갖 잡생각에 빠져 아무것도 못 하는 우리 모습 같기도 한데요. 세계적인 철학자 다니엘 데닛이 AI의 이런 결정적인 한계를 꼬집기 위해 만든 이 이야기는 우리에게 AI 지능의 본질에 대해 다시 한번 생각하게 만듭니다.

똑똑한 로봇, 왜 폭탄 앞에서 쩔쩔맸을까?

옛날 옛적, 자신을 지키는 것이 최우선 임무인 로봇 'R1'이 있었습니다. R1은 배터리가 시한폭탄과 함께 있는 방에 들어가 배터리만 쏙 빼내려 했지만, 폭탄도 같이 딸려 나와 결국 파괴되고 말았습니다. 개발자들은 이 문제를 해결하기 위해 부수적인 효과까지 고려하는 'R1D1'을 만들었지만, 이번엔 로봇이 너무 많은 생각을 하느라 폭탄이 터질 때까지 아무것도 못 했습니다. 세 번째 로봇 'R2D1'은 임무와 관련된 것만 생각하도록 개선되었습니다. 하지만 이 로봇 역시 방 앞에서 멈춰 서서, 관련 없는 수천 가지 사항들을 '무시하는 중'이라며 시간을 보냈고, 결국 폭탄은 또 터지고 말았습니다. 이 웃지 못할 이야기는 철학자 다니엘 데닛이 AI가 가진 근본적인 문제, 바로 '프레임 문제(Frame Problem)'를 설명하기 위해 만든 것입니다.

'프레임 문제'가 대체 뭐길래?

프레임 문제는 AI가 특정 행동을 할 때, 그 행동과 직접 관련 없는 주변 상황들은 변하지 않는다는 것을 어떻게 이해하고 처리할 것인가에 대한 문제입니다. 사람은 어떤 행동을 할 때 자연스럽게 관련된 지식만 떠올리고, 변하지 않는 수많은 사실들은 굳이 일일이 생각하지 않습니다. 하지만 AI에게는 이 '변하지 않는 사실'들을 인식하고 무시하는 것이 매우 어려운 숙제입니다. 예를 들어, 우리가 컵을 옮길 때 방 전체의 물건 위치가 그대로라는 것을 당연하게 알지만, AI는 컵을 옮기는 행동이 벽지 색깔이나 방 온도에는 영향을 주지 않는다는 사실까지 명시적으로 알려줘야 할 수도 있습니다. 이런 변하지 않는 사실들은 거의 무한대에 가깝기 때문에, AI가 모든 상황을 다 고려하고 대처하는 것은 현실적으로 불가능에 가깝습니다. 이 '생각의 틀' 혹은 '상황 판단의 범위'를 정하는 것이 바로 프레임 문제입니다.

사람은 되는데, AI는 왜 어려울까?

'프레임 문제'라는 용어는 1969년 AI 분야의 선구자인 존 매카시와 패트릭 헤이스의 논문에서 처음 등장했습니다. 그들은 AI가 특정 명령을 수행했을 때 변하는 것과 변하지 않는 것을 일일이 논리적으로 알려주는 것이 너무 어렵다고 지적했습니다. 그래서 AI는 제한된 '프레임(틀)' 안에서만 정보를 처리할 수밖에 없다는 한계를 제기한 것입니다. 물론 사람도 완벽하게 프레임 문제에서 자유롭지는 않습니다. 우리도 가끔 예상치 못한 상황에 당황하거나 잘못된 판단을 내리기도 합니다. 하지만 사람은 성장 과정에서 경험과 학습을 통해 자연스럽게 자신만의 '프레임'을 형성하고, 대부분의 상황에서 이 틀 안에서 효율적으로 정보를 처리합니다.

철학자가 던진 질문, AI의 미래는?

다니엘 데닛은 프레임 문제가 단순한 기술적 어려움을 넘어, 지능의 본질이 무엇인지에 대한 깊은 질문을 던진다고 보았습니다. 그는 인간이 특정 상황에서 중요한 정보와 무시해도 되는 정보를 빠르고 효율적으로 판단하는 '관련성 결정 능력'이 핵심이라고 강조했습니다. 하지만 이런 능력을 AI에게 명확한 규칙이나 알고리즘으로 만들어주는 것은 극도로 어렵다고 말합니다. 데닛은 '인지 바퀴'라는 개념을 제시하며, 기술적으로는 훌륭해 보이는 AI 접근법도 실제 생물학적 지능과는 거리가 멀 수 있다고 지적했습니다. 그는 초기 AI 연구의 지나친 낙관론에 비판적이었지만, 동시에 AI를 인간 지능과 의식을 탐구하는 중요한 도구로 보았습니다. 프레임 문제는 오늘날까지도 AI 연구자들에게 중요한 도전 과제로 남아 있으며, 진정으로 인간처럼 생각하고 판단하는 AI를 만들기 위해서는 이 문제를 넘어서야 한다는 교훈을 줍니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr