기술/연구

가짜 데이터로 진짜 지능 만든다? AI 훈련 판도 바꿀 기술 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.24 20:02

기사 3줄 요약

1 RAGEN, AI 생성 데이터로 AI 훈련 신기술
2 인간 데이터 의존 줄여 진짜 추론 능력 키워
3 로봇, 코딩 등 다양한 분야서 성능 입증

AI를 더 똑똑하게 만들려면 엄청난 양의 데이터가 필요합니다. 그런데 우리가 가진 데이터만으로는 부족하거나, 편견이 섞여 있을 수 있다는 문제가 계속 제기되어 왔습니다. 이제 이 문제를 해결할 새로운 방법이 나왔습니다. 바로 ‘RAGEN(Reinforcement learning from AI-Generated ExperieNces)’이라는 기술입니다. 이름 그대로 AI가 스스로 만들어낸 가상의 경험, 즉 '합성 데이터'를 가지고 AI를 훈련시키는 방식입니다. 마치 게임 캐릭터가 가상 세계에서 스스로 모험하며 성장하는 것과 비슷하다고 할 수 있습니다.

왜 인간 데이터가 문제였을까?

지금까지 AI는 주로 사람이 만든 글, 사진, 동영상 같은 데이터를 먹고 학습했습니다. 하지만 이런 데이터는 양이 한정적이고, 특정 상황이나 편향된 시각을 담고 있을 가능성이 높습니다. 예를 들어, 특정 인종이나 성별에 대한 데이터가 부족하면 AI도 그 부분에서 제대로 판단하지 못하는 문제가 생길 수 있습니다. 또, 현실 세계의 모든 복잡한 상황을 데이터로 담기도 어렵습니다. 자율주행 AI를 훈련시킨다고 할 때, 세상의 모든 돌발 상황을 미리 데이터로 만들어 학습시키는 것은 거의 불가능에 가깝습니다.

AI가 AI를 가르친다? RAGEN 방식은 뭐야?

RAGEN은 이 문제를 'AI가 만든 가상 경험 데이터'로 해결합니다. 거대 언어 모델(LLM) 같은 똑똑한 AI가 스스로 다양한 상황을 상상하고, 그 속에서 어떤 행동을 했을 때 어떤 결과가 나오는지 시뮬레이션합니다. 이 과정에서 만들어진 풍부하고 다양한 '합성 데이터'를 다른 AI 에이전트가 학습하는 것입니다. 이 방식의 핵심은 ‘StarPO(State-Thinking-Actions-Reward Policy Optimization)’라는 특별한 강화학습 방법입니다. 강화학습은 AI가 특정 목표를 달성하기 위해 여러 행동을 시도하고, 그 결과 얻는 보상(Reward)을 통해 스스로 최적의 방법을 찾아가는 학습 방식입니다. StarPO는 두 단계로 진행됩니다. 첫 번째는 'Rollout' 단계로, AI가 가상 환경에서 스스로 생각하고 행동하며 다양한 경험 시나리오를 만듭니다. 두 번째는 'Update' 단계로, 이 경험들을 바탕으로 어떤 생각과 행동이 좋은 결과를 가져왔는지 스스로 평가하고 전략을 수정하며 더 똑똑해집니다.

똑똑한 척만 하는 AI는 이제 그만?

강화학습에는 한 가지 고질적인 문제가 있습니다. 바로 '에코 트랩(Echo Trap)'입니다. AI가 초반에 우연히 성공한 방식에만 집착해서 더 좋은 방법을 찾으려 하지 않고, 계속 같은 행동만 반복하는 함정에 빠지는 것입니다. RAGEN 개발팀은 이 문제를 해결하기 위해 StarPO를 개선한 'StarPO-S'라는 기술도 개발했습니다. StarPO-S는 AI가 확신하지 못하는 불확실한 상황의 데이터를 더 중요하게 학습하게 하고(Uncertainty-Based Rollout Filtering), 기존 방식에 너무 얽매이지 않고 새로운 시도를 자유롭게 하도록(KL Penalty Removal) 만들었습니다. 또, 좋은 결과를 낸 경험은 더 강하게 학습하도록(Asymmetric PPO Clipping) 해서 함정에 빠지지 않고 계속 발전하게 돕습니다.

그래서 얼마나 좋아졌는데?

RAGEN 방식으로 훈련된 AI는 이미 로봇 제어, 웹사이트 정보 탐색, 코딩 작업 등 다양한 분야에서 뛰어난 성능을 보여주고 있습니다. 특히 기존 방식으로는 다루기 어려웠던 복잡하고 예측 불가능한 상황(엣지 케이스)에서도 더 잘 대처하는 것으로 나타났습니다. 인간이 만든 데이터에 덜 의존하기 때문에 데이터 수집 비용과 시간을 줄일 수 있고, AI가 단순히 패턴을 암기하는 것을 넘어 실제 상황처럼 상호작용하며 '추론'하는 능력을 키울 수 있다는 장점이 있습니다.

특징	RAGEN	기존 훈련 방식
데이터 출처	AI가 생성한 합성 데이터	주로 인간이 생성한 데이터
훈련 시나리오	매우 다양하고 품질 높음	실제 데이터 범위 내로 제한적
특이 상황 대처	우수함	어려움 겪는 경우 많음
인간 데이터 의존도	낮음	높음
학습 방식 초점	경험과 추론 기반 학습	패턴 암기 및 인식 위주

아직 숙제는 남았다?

물론 RAGEN도 아직 완벽하지는 않습니다. 훈련 시간이 아주 길어지면 성능이 불안정해지는 문제가 남아있고, 특정 산업 분야에 적용하려면 그 분야에 맞는 맞춤형 가상 환경과 보상 시스템을 설계해야 하는 어려움이 있습니다. 또한 RAGEN 기술은 현재 깃허브(GitHub)라는 개발자 플랫폼에 오픈소스로 공개되어 있지만, 아직 명확한 사용 허가 라이선스가 정해지지 않았습니다. 따라서 이 기술을 실제 서비스나 제품에 활용하려는 경우, 라이선스 문제를 반드시 확인해야 합니다. 하지만 이런 한계에도 불구하고 RAGEN은 AI 훈련 방식에 새로운 가능성을 열어주고 있습니다. AI가 스스로 데이터를 만들고 학습하며 진짜 문제 해결 능력을 키워나가는 모습은, 앞으로 우리가 AI와 함께 살아갈 미래를 더욱 기대하게 만듭니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr