정책/윤리

“AI가 너무 깨어있다?” 트럼프의 경고에 챗GPT 이긴 AI 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.14 05:35

기사 3줄 요약

1 앤트로픽, 자사 AI ‘클로드’가 챗GPT보다 더 정치 중립적이라 발표
2 트럼프의 '깨어있는 AI' 금지 행정명령에 대한 대응으로 분석
3 자체 평가서 클로드는 중립성 95점, GPT-5는 89점을 기록

미국 AI 기업 앤트로픽이 자사의 인공지능(AI) 챗봇 ‘클로드’를 정치적으로 치우치지 않게 만들기 위한 노력을 공개했습니다. 이는 트럼프 대통령이 ‘깨어있는 AI(woke AI)’ 사용을 금지하는 행정명령을 내린 지 불과 몇 달 만에 나온 발표입니다. 앤트로픽은 클로드가 특정 정치적 견해를 강요하지 않고, 다양한 관점을 동등한 깊이로 분석하도록 설계했다고 밝혔습니다. 사용자가 보수인지 진보인지조차 특정할 수 없는 답변을 내놓는 것을 목표로 합니다.

그래서 어떻게 중립을 지킨다는 거야?

앤트로픽은 AI를 훈련시키는 두 가지 핵심 방법을 공개했습니다. 첫 번째는 ‘시스템 프롬프트’라는 규칙을 AI에 미리 입력하는 것입니다. 이 규칙에는 ‘요청하지 않은 정치적 의견을 말하지 말 것’, ‘사실에 기반하여 정확하게 말할 것’ 등이 포함됩니다. 두 번째는 강화학습이라는 기술을 사용하는 것입니다. AI가 미리 정해진 바람직한 특성에 가까운 답변을 내놓을 때마다 보상을 주는 방식입니다. 이를 통해 AI가 스스로 정치적 중립성을 지키도록 학습시키는 것입니다.

결과는 얼마나 다른데? 챗GPT보다 낫다고?

앤트로픽은 자체 개발한 도구로 주요 AI 모델들의 정치적 공정성을 측정해 그 결과를 공개했습니다. 앤트로픽에 따르면, 클로드 최신 모델은 중립성 점수에서 94~95%를 기록했습니다. 이는 경쟁 모델인 오픈AI의 GPT-5가 기록한 89%, 메타의 라마4가 기록한 66%보다 월등히 높은 수치입니다. 이 결과만 보면, 클로드가 현재 가장 정치적으로 편향되지 않은 AI라고 볼 수 있습니다.

아니 근데, AI 정치색 논란은 왜 시작된 거야?

이러한 움직임은 트럼프 대통령의 행정명령과 깊은 관련이 있습니다. 지난 7월, 트럼프 대통령은 미국 정부 기관이 AI를 구매할 때 ‘편향되지 않고 진실을 추구하는’ 모델만 사용하도록 하는 행정명령에 서명했습니다. 이후 AI 업계에서는 정치적 편향성 논란을 줄이려는 움직임이 본격화되었습니다. 오픈AI 역시 최근 챗GPT의 정치적 편향성을 줄이겠다고 발표한 바 있습니다. 막대한 정부 계약을 따내기 위해 기업들이 정치적 압력에 발 빠르게 대응하는 모습입니다.

AI가 진짜로 중립적일 수 있을까?

하지만 많은 전문가들은 AI가 완벽하게 정치적으로 중립적인 것은 사실상 불가능하다고 지적합니다. AI는 결국 인간이 만든 데이터를 학습하기 때문에, 데이터에 담긴 편견에서 완전히 자유로울 수 없다는 것입니다. 앤트로픽 역시 이번 조치가 완벽한 해결책은 아니라고 인정했습니다. AI의 정치색 논쟁은 기술적 문제를 넘어, 우리 사회가 어떤 가치를 우선할 것인지에 대한 철학적인 질문을 던지고 있습니다.