“트랜스포머, 이제 완전히 질린다” 챗GPT 핵심 기술 개발자의 작심 비판

현재 인공지능(AI) 기술의 심장으로 불리는 ‘트랜스포머’를 만든 개발자 중 한 명이 “트랜스포머에 질린다”는 폭탄선언을 했습니다. 이는 현재 AI 산업이 위험할 정도로 좁은 길만 파고 있다는 날카로운 지적입니다. 벤처비트에 따르면 트랜스포머 논문의 공동 저자인 일리언 존스는 최근 열린 TED AI 컨퍼런스에서 이와 같이 밝혔습니다. 그는 AI 업계가 8년 전에 나온 트랜스포머 구조에서 벗어나, 다음 세대 기술을 만드는 데 더 힘을 쏟아야 한다고 강조했습니다.

챗GPT 만든 기술인데, 왜 질린다는 거야?

생성형 AI의 기반이 되는 트랜스포머는 2017년 구글 논문 ‘어텐션 이즈 올 유 니드’에서 처음 등장한 기술입니다. 이 기술 덕분에 ChatGPT와 같은 혁신적인 AI 챗봇이 탄생할 수 있었습니다. 실제로 GPT라는 이름 자체가 ‘생성 사전 훈련 트랜스포머’의 줄임말일 정도로 핵심적인 기술입니다. 문제는 이 기술이 등장한 지 8년이 지났지만, 여전히 모든 AI 개발이 트랜스포머에만 머물러 있다는 점입니다. 오픈AI, 메타, 구글 같은 거대 기업들조차 기존 기술을 약간 개선하는 데 막대한 돈과 인재를 쏟아붓고 있습니다. 존스는 이런 상황을 두고 “진정한 혁신은 사라지고, 8년 전 기술의 효율을 짜내는 일만 반복하고 있다”고 비판했습니다.

돈은 쏟아지는데, 혁신은 왜 멈췄을까?

존스는 이런 현상의 원인으로 투자자들의 수익률 요구와 치열한 시장 경쟁을 꼽았습니다. 기업들은 투자자들에게 성과를 보여줘야 한다는 압박감 때문에, 위험 부담이 큰 새로운 도전 대신 검증된 트랜스포머 기술에만 매달리게 됩니다. 결국 “자원이 늘어날수록 창의성이 줄어드는 역설”이 발생합니다. 대부분의 연구자가 비슷한 연구를 하며 경쟁하기 때문에, 혁신적인 아이디어는 뒤로 밀려나고 상대에게 힌트를 주지 않으려 모험적인 프로젝트는 숨기게 됩니다. 과학의 발전이 해로운 압박을 받고 있다는 설명입니다.

그럼 대안은 있어? 뭘 해야 하는데?

존스는 지금이라도 새로운 AI 아키텍처 개발에 투자를 돌려야 한다고 제안합니다. 그는 트랜스포머가 등장하기 직전, 수많은 연구자가 이전 기술인 RNN을 개선하는 데 시간을 쏟았던 것을 예로 들었습니다. 만약 그들이 트랜스포머의 등장을 알았다면 헛된 노력을 하지 않았을 것이라는 의미입니다. 물론 ‘맘바’나 ‘액체 신경망’처럼 트랜스포머를 넘어서려는 시도들이 있었습니다. 하지만 아직 뚜렷한 성과를 내지 못했습니다. 존스는 트랜스포머에 쏟는 노력의 일부라도 새로운 방식으로 옮겨온다면, 훨씬 빠르고 혁신적인 발전을 이룰 수 있다고 강조합니다. 그는 실제로 올해 초부터 트랜스포머 개발 시간을 대폭 줄이고 차세대 기술 탐구에 집중하고 있다고 밝혔습니다. 그의 마지막 메시지는 경쟁이 아닌 ‘협력’이었습니다. 그는 “우리 모두 기술의 발전을 원하고, 이를 통해 모두가 혜택을 누리길 바란다”며 “다 함께 탐구의 폭을 넓히고 발견한 것을 공개적으로 공유하면 목표에 훨씬 빨리 도달할 수 있을 것”이라고 말했습니다. 그의 발언은 AI 업계 전체에 던지는 강력한 경고이자, 더 큰 도약을 위한 제안인 셈입니다.