기술/연구

"생각 많이 하면 AI 바보 된다?" 메타 실험, 단순함이 정확도 34% 높였다!

댓글 2 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.30 18:08

기사 3줄 요약

1 메타, AI 짧은 추론이 정확도 34% 향상 발표
2 새 기법 'short-m@k', 연산 줄이고 시간 단축
3 AI도 '과한 생각' 금물, 단순함이 핵심

AI가 똑똑해지려면 더 많이, 더 깊이 생각해야 한다는 기존 상식에 정면으로 도전하는 연구 결과가 발표됐습니다. 글로벌 빅테크 기업 메타의 AI 연구팀이 AI가 오히려 생각을 덜 할수록 정확도가 최대 34.5%까지 향상된다는 사실을 밝혀냈습니다. 이는 AI의 학습 및 추론 방식에 대한 기존 관념을 뒤흔드는 발견으로, 앞으로 AI 개발 방향에 큰 영향을 미칠 것으로 보입니다.

AI, 생각 짧게 해야 똑똑해진다고?

기존에는 AI가 복잡한 문제일수록 더 많은 연산과 긴 사고 과정을 거쳐야 정확한 답을 찾을 수 있다고 여겨졌습니다. 하지만 이번 메타와 히브리대학교 연구진의 공동 연구는 이러한 통념을 깨뜨렸습니다. 연구팀은 여러 최상위 AI 모델과 다양한 테스트에서 짧은 추론 과정이 긴 과정보다 더 높은 정확도를 보인다는 것을 일관되게 확인했습니다. 가장 긴 추론 과정보다 짧은 추론이 같은 질문에 대해 최대 34.5% 더 정확한 정답을 도출했습니다. 이는 AI가 불필요하게 복잡한 생각에 빠지는 것을 막고, 핵심에 집중할 때 더 나은 결과를 낼 수 있음을 시사합니다. 연구진은 이 현상을 '오버싱킹(overthinking)은 금물'이라는 인간의 교훈에 빗대어 설명했습니다.

그래서 메타가 제안한 방법은 뭔데?

연구진은 기존의 긴 생각 과정(CoT, Chain-of-Thought)이 오히려 과도한 컴퓨터 계산을 유발한다고 지적했습니다. 이에 대한 대안으로 'short-m@k'라는 새로운 생각 방식을 제안했습니다. 이 방식은 마치 여러 전문가에게 동시에 질문을 던지고, 가장 먼저 답을 내놓는 몇몇 전문가의 의견을 종합해 결론을 내리는 것과 비슷합니다. 구체적으로, short-m@k 방식은 여러 개의 독립적인 생각 과정을 동시에 진행시킵니다. 그중 몇 개(m개)의 생각 과정이 먼저 완료되면, 나머지 생각 과정은 중단시킵니다. 최종 답변은 가장 짧게 끝난 생각 과정들의 결과 중 다수결로 선택됩니다.

이게 왜 중요한 건데?

이 새로운 방식은 컴퓨터 자원과 시간을 크게 절약할 수 있다는 장점이 있습니다. 예를 들어, 가장 기본적인 'short-1@k' 방식은 생각에 사용되는 AI의 단어 조각(토큰) 수를 최대 40%까지 줄일 수 있었습니다. 그러면서도 기존의 복잡한 방식과 비슷하거나 더 뛰어난 성능을 보여주었습니다. 'short-3@k' 방식은 이보다 약간 효율이 떨어질 수 있지만, 모든 컴퓨터 계산량 범위에서 꾸준히 기존 방식보다 우수한 성능을 보였습니다. 심지어 전체 실행 시간도 최대 33%까지 단축되는 효과를 나타냈습니다. 이는 AI가 더 빠르고 효율적으로 답을 찾을 수 있게 된다는 의미입니다.

그럼 AI도 사람처럼 너무 고민하면 안 되겠네?

놀랍게도 이러한 현상은 AI를 학습시키는 과정에서도 동일하게 나타났습니다. 연구진은 짧은 생각 과정 예시로 AI를 학습시킨 모델이 오히려 더 좋은 성능을 낸다고 밝혔습니다. 반대로, 긴 생각 과정 예시로 학습시킨 경우에는 생각 시간만 길어지고 성능 향상은 거의 없었습니다. 연구진은 이번 결과가 현재 AI 생각 모델의 테스트 방식 자체를 다시 생각하게 만든다고 말했습니다. 길게 생각한다고 해서 반드시 성능이 좋아지는 것은 아니며, 오히려 정답률이 떨어질 수도 있다는 것입니다. 결국 AI도 사람처럼 "과하게 생각하지 말라(Don’t overthink it)"는 교훈에서 배울 점이 있는 것 같습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr