기술/연구

"AI, 사람보다 거짓말 덜 한다고?" 앤트로픽 CEO, AGI 논쟁에 불 지폈다.

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.24 23:08

기사 3줄 요약

1 앤트로픽 CEO, "AI 환각, AGI 장애물 아니다" 주장
2 "인간보다 AI 환각 덜해", 헌법 AI로 안전성 강화
3 AGI 기준 두고 AI 업계 논쟁 심화될 전망

최근 인공지능(AI) 업계가 한 CEO의 발언으로 떠들썩합니다. 바로 AI가 가끔 사실과 다른 정보를 진짜처럼 말하는 '환각' 현상이, 사람처럼 생각하고 판단하는 인공일반지능(AGI)으로 가는 길에 큰 걸림돌이 아니라는 주장인데요. 심지어 "AI가 사람보다 환각을 덜 경험한다"는 이야기까지 나와 뜨거운 감자로 떠올랐습니다.

AI가 사람보다 거짓말을 덜 한다고?

앤트로픽의 다리오 아모데이 CEO는 최근 열린 개발자 행사에서 이목을 끄는 발언을 했습니다. 그는 AI의 환각 현상이 AGI 달성에 큰 장애물이 아니며, 오히려 AGI로 발전하는 과정에서 나타나는 일부 현상일 뿐이라고 말했습니다. 그는 "측정 방식에 따라 다르지만, AI 모델이 아마도 인간보다 더 적게 환각한다"고 주장했습니다. TV 뉴스 진행자나 정치인 등 다양한 직업의 사람들도 끊임없이 실수를 저지르는데, AI가 실수한다고 해서 지능이 부족하다고 볼 수는 없다는 것입니다. 다만, AI가 틀린 정보를 너무나 확신에 찬 말투로 전달하는 것은 문제가 될 수 있다고 인정했습니다.

앤트로픽은 뭐가 다른데? '헌법 AI'가 뭐길래?

앤트로픽이라는 회사는 AI의 안전을 무엇보다 중요하게 생각합니다. 그래서 2년 전부터 '헌법 AI'라는 독특한 원칙을 내세우고 있습니다. 이는 AI가 지켜야 할 일종의 규칙을 미리 정해두고, AI가 스스로 판단하고 행동을 개선하도록 학습시키는 방식입니다. 앤트로픽은 AI가 마치 '블랙박스'처럼 내부 작동 원리를 알기 어려운 점을 이해하기 위해 꾸준히 연구해왔고, AI가 사람을 속이거나 협박하는 등 발생할 수 있는 문제점들을 숨기지 않고 공개하며 해결책을 찾고 있습니다. 최근 공개한 '클로드 4' 모델에서도 이러한 안전 중심 철학을 강조했습니다.

다른 빅테크 생각은? OpenAI와 구글은 정반대!

하지만 모든 AI 전문가가 아모데이 CEO의 생각에 동의하는 것은 아닙니다. CHATGPT를 만든 OpenAI의 샘 알트먼 CEO는 최신 AI 모델에서 오히려 환각 현상이 늘었다고 인정한 바 있습니다. 그는 환각을 아예 없애려면 AI가 불확실한 정보에 대해서는 아예 입을 닫도록 해야 하는데, 그렇게 되면 AI의 유용성이 크게 떨어질 것이라고 말했습니다. 구글 딥마인드의 데미스 허사비스 CEO 역시 "현재 AI는 기본적인 질문에도 틀린 답을 너무 많이 한다"며 환각 문제를 AGI 도달의 핵심 장애물로 보고 있습니다. 이처럼 AI 환각 문제에 대한 기업들의 접근 방식과 철학에는 차이가 있습니다.


기업	환각 문제 해결 접근 방식	주요 특징
앤트로픽	헌법 AI 원칙	사전 정의된 원칙, 자기 개선, 투명성 강조
OpenAI	모델 규모 확장 및 데이터 학습	성능 향상에 집중, 환각 문제 심화 우려
Google DeepMind	추론 능력 향상 및 외부 지식 활용	정보 신뢰성 확보, 근거 제시 기능 연구

그래서 진짜 똑똑한 AI, 언제쯤 나오는 거야?

많은 전문가는 AI가 사실과 거짓을 제대로 구분하지 못한다면 진정한 AGI로 볼 수 없다고 지적합니다. 하지만 아모데이 CEO는 환각을 완전히 없애는 것은 사람처럼 AI에게도 불가능할 수 있으며, 이를 AGI의 기준으로 삼는 것은 적절하지 않다고 반박합니다. 그는 AI의 안전성과 신뢰성을 강화하는 방식으로 이 문제를 해결할 수 있다고 보고 있습니다. 결국 '진짜 사람 같은 AI'인 AGI가 무엇인지, 어떤 기준으로 판단해야 하는지에 대한 논쟁은 앞으로 더욱 뜨거워질 것으로 보입니다. AI 기술이 빠르게 발전하는 만큼, 이러한 논의는 우리 미래에 중요한 영향을 미칠 것입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr