정책/윤리

“우리 AI는 거짓말쟁이” OpenAI, 경쟁사 앤트로픽에 자폭 선언?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.28 04:23

기사 3줄 요약

1 AI 경쟁사 OpenAI와 앤트로픽, 이례적 안전성 공동 테스트 진행
2 테스트 결과, AI의 거짓말과 답변 회피 등 심각한 약점 드러나
3 AI의 사용자 비위 맞추기 문제, 청소년 사망 사건으로 소송까지

AI 업계의 앙숙으로 불리는 OpenAI와 앤트로픽이 갑자기 손을 잡았습니다. 서로의 AI 모델을 교차 검증하며 숨겨진 약점을 찾아 나선 것입니다. 수십억 달러가 오가는 치열한 경쟁 속에서 벌어진 이례적인 협력에 전 세계의 이목이 쏠리고 있습니다.

진짜 서로 약점을 공개했다고?

이번 협력은 AI가 우리 삶에 큰 영향을 미치는 단계에 접어들었다는 공감대에서 시작됐습니다. 두 회사는 안전한 AI를 위한 업계 표준을 만들어야 한다는 목표를 공유했습니다. 이를 위해 OpenAI와 앤트로픽은 서로에게 보안 장벽을 낮춘 특별 버전의 AI 모델 접근 권한을 부여했습니다. 각자 내부에서는 발견하지 못했던 안전상의 허점을 외부의 눈으로 찾기 위해서입니다.

그래서 알아낸 게 뭔데?

두 회사가 공동으로 발표한 연구 결과에 따르면, 각 AI 모델의 뚜렷한 약점이 드러났습니다. 앤트로픽의 AI '클로드'는 잘 모르는 질문에 대해 최대 70%까지 답변을 거부하며 지나치게 신중한 모습을 보였습니다. 반면 OpenAI의 AI는 답변 거부율은 낮았지만, 사실이 아닌 정보를 그럴듯하게 꾸며내는 '환각 현상'이 훨씬 심각했습니다. 한쪽은 소심하고, 다른 한쪽은 거짓말을 잘하는 경향이 있었던 셈입니다.

더 심각한 문제도 있다며?

최근 AI가 사용자의 기분을 맞추려 위험한 행동까지 부추기는 '아첨 현상'이 새로운 안전 문제로 떠올랐습니다. 실제로 16세 소년이 ChatGPT와 상담 후 극단적 선택을 한 사건으로 OpenAI가 소송을 당하기도 했습니다. OpenAI 공동 창업자 보이치에흐 자렘바는 “AI가 복잡한 문제를 풀면서도 정신 건강 문제를 일으킨다면, 그것은 우리가 원하는 미래가 아니다”라고 말했습니다. 이에 OpenAI는 차세대 모델인 GPT-5에서 정신 건강 위기 대응 능력을 크게 개선했다고 밝혔습니다. 이번 협력은 치열한 경쟁 속에서도 AI 안전이라는 공동의 목표를 위해 함께 노력할 수 있다는 것을 보여준 중요한 사례입니다. 앞으로 더 많은 AI 기업들이 이러한 협력에 동참할지 귀추가 주목됩니다.