기술/연구

“인간의 뇌를 뛰어넘었다?” 구글 AI, 수학 올림피아드 정복

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.20 01:44

기사 3줄 요약

1 구글 딥마인드 AI, 국제수학올림피아드서 은메달 수준 성적
2 복잡한 수학 증명을 게임처럼 풀어내는 방식으로 학습
3 인간과 AI의 수학 연구 협업 시대 본격 개막 예고

구글 딥마인드의 인공지능(AI) ‘알파프루프(AlphaProof)’가 세계 최고 권위의 국제수학올림피아드에서 은메달에 해당하는 성적을 거뒀습니다. 이는 AI가 단순히 빠른 계산을 넘어 인간 고유의 영역으로 여겨졌던 논리적 추론 능력까지 갖추기 시작했다는 신호탄으로 해석됩니다. 지금까지 컴퓨터는 정해진 계산은 사람보다 월등히 잘했지만, 왜 그렇게 계산해야 하는지에 대한 근본적인 이해나 증명 과정에서는 한계를 보여왔습니다.

AI가 어떻게 수학 천재가 됐어?

알파프루프의 핵심 성공 비결은 수학 증명을 하나의 ‘게임’으로 접근한 것에 있습니다. 과거 바둑으로 이세돌 9단을 이겼던 ‘알파고’처럼, 복잡한 증명 과정을 이겨야 할 게임으로 보고 수많은 경우의 수를 탐색해 최적의 해법을 찾아냅니다. 이를 위해 딥마인드 연구팀은 ‘린(Lean)’이라는 수학 증명 전문 프로그래밍 언어를 활용했습니다. 또한 구글의 ‘제미나이’ AI를 이용해 자연어로 된 수학 문제들을 린 언어로 자동 번역하여, 약 8천만 개에 달하는 방대한 학습 데이터를 구축했습니다. 특히 어려운 문제에 부딪혔을 때, 스스로 문제를 더 쉬운 버전으로 바꾸거나 변형해 연습하는 ‘테스트 타임 강화학습(TTRL)’ 기술이 결정적이었습니다. 이는 마치 사람이 어려운 문제를 풀기 위해 기초 문제부터 다시 풀어보며 감을 익히는 과정과 비슷합니다.

그래서, 인간보다 진짜 잘해?

알파프루프는 2024년 국제수학올림피아드에서 총 6문제 중 4문제를 해결하며 28점을 획득했습니다. 이는 은메달 수상 기준에 해당하는 점수입니다. 특히, 대회 최고난도 문제로 꼽혀 단 6명의 인간 참가자만이 풀어낸 문제를 7번째로 풀어내는 기염을 토했습니다. 하지만 아직 한계도 명확합니다. 기하학 문제는 ‘알파지오메트리 2’라는 다른 전문 AI의 도움을 받아야 했습니다. 또한 인간 참가자에게 주어진 9시간과 달리, 한 문제당 며칠씩 수백 개의 고성능 반도체를 사용해 막대한 비용과 시간이 소요됐습니다.

앞으로 수학자는 다 사라지는 거 아니야?

딥마인드의 목표는 수학자를 대체하는 것이 아니라, 그들의 연구를 돕는 ‘과학적 발견 파트너’를 만드는 것입니다. AI가 인간이 놓칠 수 있는 부분을 찾아내거나 새로운 증명 방식을 제안하며 협력하는 미래를 그리고 있습니다. 이번 연구 결과는 세계적인 과학 저널 ‘네이처(Nature)’에도 실렸습니다. 딥마인드에 따르면, 일부 수학자들에게 알파프루프 도구를 제공해 실제 연구에 도움이 될 수 있을지 테스트할 계획입니다. 인간과 AI의 협력이 수학 분야에서 어떤 새로운 발견을 이끌어낼지 주목됩니다.