기술/연구

“AI 기억상실증, 사실은 꾀병이었다?” 간단한 해결책 발견

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.14 19:23

기사 3줄 요약

1 AI가 새 지식 학습 시 기존 능력 잃는 '망각' 문제
2 알고 보니 기억 상실 아닌 ‘출력 편향’이 진짜 원인
3 모델 일부만 학습시켜 해결, 비용과 시간 크게 절약

최신 인공지능(AI) 모델을 특정 목적에 맞게 업그레이드할 때, 기존에 알던 능력을 잃어버리는 ‘재앙적 망각’ 현상이 발견됐습니다. 그런데 이 현상이 진짜 기억을 잃는 것이 아니라, 일시적인 ‘출력 편향’ 때문이라는 새로운 연구 결과가 나왔습니다. 출력 편향이란 AI가 특정 주제에만 익숙해져서 다른 대답을 잘 못하게 되는 현상을 말합니다. 미국 일리노이대학교 연구팀은 이 문제를 해결할 간단한 방법을 찾아냈습니다.

AI가 자꾸 똑똑해지다 바보가 된다고?

AI에게 새로운 것을 가르치면 이전에 잘하던 것을 갑자기 못하게 되는 문제가 있었습니다. 예를 들어, 그림을 보고 글을 쓰는 AI에게 의료 사진 판독법을 가르쳤더니, 일반 사진에 대한 설명을 제대로 못하게 되는 식입니다. 많은 전문가들은 이를 AI의 지식이 정말로 사라지는 ‘재앙적 망각’이라고 생각했습니다. 이 때문에 AI를 업그레이드할 때마다 막대한 비용과 시간을 들여 처음부터 다시 학습시켜야 할 수도 있다는 우려가 컸습니다.

기억상실이 아니라, 그냥 '말투'가 변한 거라고?

일리노이대학교 연구팀에 따르면, AI의 망각은 진짜 기억 상실이 아니었습니다. 새로운 작업에 맞춰 말투가 한쪽으로 쏠리면서 일시적으로 성능이 낮아지는 ‘출력 편향’에 가깝다는 것입니다. 즉, AI의 뇌에 저장된 지식 자체가 사라진 게 아니라는 설명입니다. 특정 주제에 너무 집중한 나머지, 다른 주제로 대화하는 법을 잠시 잊어버리는 것과 비슷합니다. 연구진은 AI가 한번 잊었던 능력도 다른 학습을 하면서 다시 회복하는 모습을 관찰하며 이 가설에 확신을 얻었습니다.

해결책은 의외로 간단했다고?

연구팀은 이 문제를 해결하기 위해 AI 모델 전체가 아닌, 일부만 선택적으로 고치는 방법을 제시했습니다. AI의 뇌 구조에서 정보 처리 방식을 담당하는 ‘셀프 어텐션’ 부분만 살짝 조정하는 것입니다. 이 방법을 적용하자, AI는 새로운 능력을 배우면서도 기존 성능은 거의 잃지 않았습니다. 전체 모델을 다시 학습할 필요 없이, 아주 작은 부분만 수정해서 문제를 해결한 셈입니다. 마치 노래 전체를 다시 만드는 대신, 악기 하나만 조율해서 완벽한 하모니를 만드는 것과 같습니다.

이게 왜 중요한데?

이번 연구는 AI를 효율적으로 계속 발전시킬 수 있는 중요한 열쇠를 제공합니다. AI 모델을 처음부터 다시 훈련하려면 수십억 원의 돈과 몇 주간의 시간이 필요하기 때문입니다. 모델의 일부만 고치는 방식은 비용과 시간을 크게 절약할 수 있습니다. 덕분에 앞으로 AI 기술은 부작용 걱정 없이 더 빠르고 지속적으로 발전할 수 있을 것으로 기대됩니다.