기술/연구

“AI 뇌수술 성공했다?” 기억만 쏙 빼내도 똑똑한 진짜 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.11 08:37

기사 3줄 요약

1 AI의 기억과 추론 기능, 뇌 회로처럼 분리된 사실 발견
2 기억 회로 제거해도 추론 능력 유지, 저작권 문제 해결 기대
3 수학 능력은 기억에 의존, AI가 계산에 약한 이유 드러나

인공지능(AI)의 뇌를 열어 기억만 골라내는 기술이 등장했습니다. 최근 AI 스타트업 굿파이어.AI 연구팀에 따르면, AI 모델 안에서 ‘기억’을 담당하는 부분과 ‘추론’을 담당하는 부분이 완전히 다른 신경 회로로 작동한다는 사실이 처음으로 밝혀졌습니다. 마치 사람의 뇌처럼 기능이 나뉘어 있다는 의미입니다. 이 발견은 AI 기술의 고질적인 문제였던 저작권 침해나 개인정보 유출 문제 해결의 실마리가 될 수 있습니다. 특정 기억만 제거해도 AI의 핵심 능력인 문제 해결 능력은 그대로 유지되기 때문입니다.

그래서, AI 뇌를 어떻게 열어봤다는 거야?

연구팀은 AI의 학습 과정을 분석해 어떤 데이터를 기억하고, 어떤 원리를 추론하는지 그 경로를 추적했습니다. 이들은 알렌 인공지능 연구소의 'OLMo-7B'라는 AI 모델을 대상으로 실험을 진행했습니다. 그 결과, 기억에 사용되는 신경 회로를 97% 제거하자 AI가 학습 데이터를 그대로 외워서 말하는 능력은 거의 사라졌습니다. 하지만 새로운 문제를 푸는 논리적 추론 능력은 거의 손상되지 않은 채 그대로 유지되는 놀라운 결과를 확인했습니다.

진짜 신기한 건 따로 있었네?

이번 연구에서 가장 흥미로운 발견은 AI가 수학 문제를 푸는 방식입니다. 놀랍게도 AI는 수학을 논리적인 추론이 아닌, 단순 ‘기억’에 의존해 처리하는 것으로 나타났습니다. 기억 회로를 제거하자 AI의 수학 문제 해결 능력은 66%까지 뚝 떨어졌습니다. 이는 AI가 '2+2=4'를 논리적으로 계산하는 게 아니라, 구구단처럼 외워서 답하는 것에 가깝다는 뜻입니다. AI가 왜 유독 수학에 약한 모습을 보였는지에 대한 중요한 단서가 발견된 셈입니다.

이 기술, 우리 삶에 무슨 상관인데?

이 기술이 발전하면 AI에서 저작권이 있는 콘텐츠나 민감한 개인정보만 골라 삭제하는 것이 가능해집니다. AI의 핵심 성능은 그대로 유지하면서 말입니다. 이는 AI의 안전성과 신뢰도를 높이는 획기적인 전환점이 될 수 있습니다. 물론 아직은 초기 단계의 연구입니다. 연구팀도 한번 지운 기억이 추가 학습으로 다시 살아날 수 있는 등 한계가 있다고 인정했습니다. 하지만 AI의 ‘블랙박스’로 불리던 내부 작동 원리를 들여다보고 직접 제어할 수 있는 길이 열렸다는 점에서 의미가 매우 큽니다.