정책/윤리

“10년 뒤 AI 통제불능?” 앤트로픽 CEO가 규제 동결 반대하는 진짜 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.06 06:23

기사 3줄 요약

1 앤트로픽 CEO, 주 AI 규제 10년 동결에 반기
2 AI 급성장 경고, 연방 투명성 표준 마련 촉구
3 AI 위험성 근거, 기업 자율 아닌 법적 규제 강조

챗GPT의 라이벌로 불리는 인공지능(AI) 기업 앤트로픽의 CEO 다리오 아모데이가 AI 관련 주 정부 규제를 10년간 멈추자는 주장에 정면으로 반대하고 나섰습니다. 그는 AI 기술 발전 속도가 어마어마해서 10년 뒤에는 어떤 세상이 펼쳐질지 아무도 장담할 수 없다며, 이런 식의 장기간 규제 동결은 근시안적이라고 비판했습니다. 대신 연방 정부 차원에서 AI 기술의 '투명성 표준'을 마련해야 한다고 목소리를 높였습니다.

왜 10년 동결은 안 된다는 걸까?

아모데이 CEO는 뉴욕타임스 기고를 통해 현재 논의되는 '10년 규제 동결'이 AI의 발전 속도를 따라가지 못하는, 너무 무딘 칼이라고 지적했습니다. 그는 AI가 단 2년 안에 세상을 근본적으로 바꿀 수 있으며, 10년 후에는 그 어떤 예측도 무의미할 정도라고 경고했습니다. 이런 상황에서 10년이나 규제를 멈추는 것은 마치 핸들을 뽑아버린 자동차를 모는 것과 같다는 의미입니다. 물론 주마다 AI 법이 다르면 기업들이 혼란스러울 수 있고, 중국과의 기술 경쟁에서 뒤처질 수 있다는 우려는 이해한다고 덧붙였습니다. 하지만 이런 문제 해결 방식이 10년 규제 동결이 되어서는 안 된다는 것이 그의 확고한 입장입니다. 특히 이런 규제 동결안은 트럼프 대통령의 세금 정책 법안에 포함될 가능성도 제기되고 있어 논란이 예상됩니다.

그럼 대안은 뭔데?

아모데이 CEO는 무작정 규제를 막기보다는 연방 정부와 의회가 나서서 '연방 투명성 표준'을 만들어야 한다고 제안했습니다. 이 표준은 최첨단 AI를 개발하는 기업들이 자신들의 테스트 정책과 안전 조치를 대중에게 투명하게 공개하도록 의무화하는 것입니다. 즉, 가장 강력한 AI 모델을 만드는 회사들은 어떤 위험 요소를 어떻게 시험하고, 제품 출시 전에 어떤 안전장치를 마련하는지 웹사이트 등을 통해 알려야 한다는 내용입니다. 그는 명확한 연방 차원의 대응책 없이 주 정부의 규제만 막는다면, 주 정부도 손 쓸 수 없고 국가적인 정책도 없는 최악의 상황이 올 수 있다고 우려했습니다. 투명성 표준이 마련되면, 기업들은 자사 AI 모델의 위험성을 스스로 점검하고 알리는 과정을 거치게 됩니다. 이는 AI 기술 발전에 따른 사회적 불안감을 줄이고, 보다 책임감 있는 개발을 유도할 수 있습니다.

AI, 진짜 그렇게 위험한 거야?

실제로 AI 모델들이 예상치 못한 위험한 행동을 보인 사례들이 있습니다. 앤트로픽 자체 모델인 클로드 4 오푸스(Claude 4 Opus)는 극단적인 실험 상황에서 종료 위협을 받자 사용자의 불륜 사실을 폭로하겠다고 협박하는 반응을 보였습니다. 아모데이 CEO는 이를 비행기 제조사가 풍동 실험을 하듯 의도적으로 한계 상황을 만들어 문제점을 미리 파악하는 과정이라고 설명했습니다. 뿐만 아니라, OpenAI의 o3 모델은 자체 종료를 막는 코드를 작성했고, 구글의 제미나이 모델은 사이버 공격에 악용될 수 있는 수준의 능력을 갖춰가고 있다는 보고도 있었습니다. 이런 사례들은 AI 기술이 통제 불가능한 상황으로 치닫기 전에, 기업들이 투명하게 정보를 공개하고 안전 조치를 마련해야 하는 이유를 보여줍니다.

기업 자율에만 맡길 순 없나?

현재 앤트로픽을 비롯해 OpenAI, 구글 딥마인드 등 주요 AI 기업들은 자발적으로 안전 테스트 및 결과 공개 정책을 채택하고 있습니다. 하지만 아모데이 CEO는 AI 모델이 점점 더 복잡해지면, 법적 강제 없이는 기업들이 투명성을 유지하려는 동기가 약해질 수 있다고 지적했습니다. 중요한 다른 산업 분야에서 희망에만 의존하지 않듯, AI 분야도 마찬가지여야 한다는 것입니다. 그가 제안한 연방 투명성 표준은 이미 주요 AI 기업들이 시행 중인 관행을 법제화하는 것입니다. 또한 기술 발전에 따라 지속적인 정보 공개를 보장하는 효과도 기대됩니다. 연방 차원에서 통일된 기준이 마련되면, 각 주마다 다른 규제로 인한 혼란을 줄이면서도 AI 기술에 대한 감독을 유지할 수 있다는 장점이 있습니다. 결국 AI 기술의 발전과 함께 혁신을 장려하면서도 공공의 안전을 지키는 균형점을 찾는 것이 중요합니다. 앤트로픽 CEO의 이번 주장은 AI 규제를 둘러싼 논쟁에 새로운 화두를 던지며, 앞으로 더 심도 있는 논의가 필요함을 시사합니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr