기술/연구

MIT 기술 등장, 작은 AI가 대형 모델 코딩 실력 제쳤다?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.27 19:52

기사 3줄 요약

1 MIT 등 연구진, 소형 AI 코딩 능력 향상 기술 개발
2 SMC 기법 활용, 대형 모델 성능 능가 확인
3 코드 생성 정확도와 효율성 크게 개선 기대

인공지능(AI)이 코드를 대신 짜주는 기술이 계속 발전하고 있습니다. 그런데 최근 MIT, 존스홉킨스 같은 유명 대학 연구진들이 놀라운 소식을 발표했습니다. 비교적 작은 AI 모델이 순차 몬테카를로(Sequential Monte Carlo, SMC)라는 기술을 사용해서 덩치 큰 AI 모델보다 코드를 더 잘 생성할 수 있다는 것입니다. SMC는 원래 복잡한 확률 문제를 푸는 데 사용되던 알고리즘인데, 이걸 코드 생성에 적용한 것입니다. 여러 개의 코드 조각을 동시에 만들어보고, 그중 가장 괜찮아 보이는 것들에 집중해서 더 발전시키는 방식입니다. 마치 여러 갈래 길을 동시에 탐험하면서 가장 가능성 높은 길에 탐험대를 더 보내는 것과 비슷합니다.

그래서 SMC가 정확히 뭔데?

SMC 과정은 크게 세 단계로 나뉩니다. 첫째, '제안 분포' 단계입니다. 여기서는 최대한 다양하고 많은 코드 후보들을 빠르게 만들어냅니다. 특정 프로그래밍 규칙에 맞는 코드를 우선 만들거나, 문법적으로 말이 되는 단어들을 조합하는 식으로 여러 가지 코드 초안을 동시에 생성합니다. 둘째, '중요도 가중치' 단계입니다. 앞에서 만든 코드 초안들이 실제로 얼마나 쓸만할지 점수를 매깁니다. 문법적으로 맞는지, 의미적으로 말이 되는지를 평가해서 각 코드 후보에 가중치를 부여합니다. 가능성이 낮은 코드는 낮은 점수를 받게 됩니다. 셋째, '재표본추출' 단계입니다. 중요도 점수가 높은, 즉 가능성 있는 코드 후보들에게 컴퓨터 자원을 집중합니다. 점수가 낮은 코드들은 과감히 버리고, 유망한 코드들을 더 발전시켜 나가는 것입니다. 불필요한 탐색을 줄이고 효율성을 높이는 과정입니다.

작은 AI가 큰 AI를 이긴다고?

이런 과정을 반복하면서 SMC 기술은 작은 AI 모델도 마치 큰 모델처럼, 때로는 그 이상으로 정확하고 쓸모있는 코드를 만들어내도록 돕습니다. 코드를 실행해보지 않고도 문법 오류나 의미상 문제를 잡아낼 수 있다는 점이 큰 장점입니다. 연구팀은 이 기술을 활용한 코드 생성 라이브러리를 깃허브(GitHub)에 공개했습니다. 누구나 이 기술을 활용하고 발전시킬 수 있게 된 것입니다. 앞으로 프로그래밍이나 데이터 분석 같은 분야에서 AI가 생성하는 코드의 정확성이 크게 높아질 것으로 기대됩니다.

하지만 단점은 없을까?

물론 SMC 기술에도 한계는 있습니다. 계산량이 많아 복잡한 코드를 만들거나 큰 모델을 쓸 때는 컴퓨터 자원이 많이 필요할 수 있습니다. 기술 구현 자체도 다소 복잡하고, 어떤 방식으로 초기 코드 후보를 만드느냐(제안 분포 설계)에 따라 성능이 크게 달라질 수 있습니다. 아주 큰 모델이나 복잡한 작업에 적용하기에는 아직 확장성 문제도 남아있습니다. 다른 코드 생성 기술과 비교하면, SMC는 기존 모델을 다시 훈련할 필요 없이 적용 가능하고, 특정 작업에만 치우치지 않는 유연성이 있습니다. 하지만 상황에 따라서는 기존의 모델 훈련 방식이나 강화학습 등이 더 적합할 수도 있습니다. 어떤 기술을 선택할지는 만들려는 코드의 종류와 가용 자원에 따라 달라질 것입니다. 이번 연구는 작은 AI의 잠재력을 보여주며 코드 생성 기술의 새로운 가능성을 열었다는 점에서 의미가 큽니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr