기술/연구

“AI 만능? 웃기지 마!” OpenAI 창업자가 밝힌 LLM의 치명적 결함

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.23 18:22

기사 3줄 요약

1 카르파시, LLM은 초능력과 결함 가진 존재라 지적
2 AI, 로봇 아닌 인간 돕는 '아이언맨 슈트'로 발전해야
3 프롬프트 중심 '소프트웨어 3.0' 시대, 인간 통제 필수

오픈AI 공동 창립자이자 ‘바이브 코딩’ 용어 창시자인 안드레이 카르파시가 대형언어모델(LLM)의 현주소를 날카롭게 진단했습니다. 그는 LLM이 어떤 면에서는 초인적인 능력을 가졌지만, 동시에 심각한 인지적 결함도 안고 있다고 지적했습니다. 결국 AI 기술의 발전에는 인간의 세심한 통제가 반드시 필요하다는 강력한 메시지를 던진 것입니다. 카르파시는 LLM을 마치 ‘인지적 결함이 많은 초인적 존재’와 같다고 비유했습니다. 이는 LLM이 방대한 데이터를 학습해 인간을 뛰어넘는 결과물을 만들기도 하지만, 종종 현실과 동떨어진 정보를 만들어내는 ‘환각’ 증상을 보이기 때문입니다. 또한, LLM은 스스로를 인식하는 ‘자기 인식’ 능력이 부족하고, 이전 정보를 쉽게 잊어버리는 ‘건망증’을 겪기도 하며, 외부의 악의적인 공격에 취약한 모습도 보인다고 설명했습니다.

LLM, 정말 똑똑하기만 할까?

LLM의 지능은 아직 불안정하여 어떤 문제 해결에는 초인적인 능력을 발휘하지만, 어이없는 실수를 하기도 합니다. 예를 들어, AI가 1만 줄짜리 코드를 순식간에 만들어내도, 사람이 그 코드를 검토하고 수정하는 데 훨씬 더 많은 시간이 걸릴 수 있습니다. 이처럼 현재의 AI는 모든 일을 스스로 완벽하게 처리하는 만능 해결사가 아니라는 점을 분명히 한 것입니다. 카르파시는 AI 에이전트에 대한 과도한 기대를 경계하며, 아직은 AI가 인간의 모든 업무를 대체하기 어렵다고 말했습니다. 그는 스스로 모든 것을 처리하는 '아이언맨 로봇'보다는 인간의 능력을 강화하는 '아이언맨 슈트'처럼 AI가 활용되어야 한다고 강조했습니다. 즉, 화려한 자율 에이전트 개발보다는 인간과 긴밀하게 협력하며 부분적인 자율성을 가진 제품을 만드는 것이 현재로서는 더 중요하고 현실적인 방향이라는 것입니다.

AI, 혼자 일하는 로봇? 아니면 도와주는 슈트?

최근 주목받는 ‘바이브 코딩’에 대해서도 카르파시는 개발자들이 너무 서두르지 말라고 조언했습니다. 바이브 코딩은 자연어를 사용해 AI에게 요청하면 AI가 코드를 생성하는 방식입니다. 그는 단순히 많은 양의 코드를 생성하기보다는, 시간을 들여 구체적이고 명확한 메시지를 작성해 코드의 품질을 높이는 것이 장기적으로 더 효율적이라고 설명했습니다. 무분별한 코드 생성은 오히려 개발자에게 더 큰 부담을 줄 수 있기 때문입니다. AI가 생성한 코드를 꼼꼼히 검토하고 디버깅하는 과정이 필수적이므로, 초기 단계부터 AI와의 소통의 질을 높이는 것이 중요합니다. 이는 AI와 인간 개발자가 성공적으로 협업하기 위한 핵심 요건이기도 합니다.

지금은 '소프트웨어 3.0' 시대, AI와 함께 똑똑하게 일하려면?

카르파시는 현재를 ‘소프트웨어 3.0’ 시대라고 정의했습니다. 1세대가 컴퓨터를 위한 코드, 2세대가 신경망을 위한 가중치였다면, 3세대는 바로 LLM을 작동시키는 인간의 자연어, 즉 ‘프롬프트’라는 것입니다. 이는 인간의 언어가 직접 소프트웨어를 프로그래밍하는 새로운 시대가 열렸음을 의미합니다. 이러한 변화의 핵심은 신경망이 LLM을 통해 인간의 언어로 프로그래밍 가능하게 되었다는 점입니다. 이는 완전히 새로운 종류의 컴퓨터가 등장한 것과 같으며, 소프트웨어 개발 방식에 근본적인 변화를 가져올 것입니다. 따라서 인간은 AI의 한계를 명확히 인지하고, AI를 효과적으로 통제하며 협력하는 방법을 익혀야 하는 중요한 시점입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr