정책/윤리

“우릴 믿지 마세요” 챗GPT 라이벌 CEO의 섬뜩한 양심선언, AI 이대로 괜찮나?

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.18 19:05

기사 3줄 요약

1 앤트로픽 CEO, “소수 기업이 AI 결정하는 것 불안”
2 AI 위험성 숨길 수도 있다며 담배 회사에 비유
3 미국 정부의 AI 안전 규제 부재 상황 지적

챗GPT의 강력한 라이벌로 꼽히는 AI 기업 앤트로픽의 CEO가 충격적인 고백을 했습니다. 다리오 아모데이 CEO는 자신과 오픈AI의 샘 알트먼처럼 선출되지 않은 소수의 기술 기업 리더들이 인류의 미래에 엄청난 영향을 미치는 결정을 내리는 것에 대해 매우 불안하다고 밝혔습니다. CBS의 대표 프로그램 '60 미니츠'에 따르면, 그는 AI 기술의 위험성과 규제 공백에 대한 깊은 우려를 솔직하게 털어놓았습니다.

진짜 불안한 이유가 뭐야?

아모데이 CEO는 AI로 인해 초급 일자리가 빠르게 사라지는 등 사회가 엄청난 변화에 직면할 것이라고 경고했습니다. 그는 최악의 경우, 기술 기업들이 AI의 위험성을 알면서도 숨기고 이익에만 몰두할 수 있다고 지적했습니다. 이는 마치 담배 회사가 건강에 해롭다는 사실을 알면서도 오랫동안 숨겨왔던 것과 같은 상황이 벌어질 수 있다는 섬뜩한 비유입니다. 그는 이런 세상으로 전락해서는 안 된다고 강력하게 목소리를 높였습니다.

그래서 앤트로픽은 뭘 하고 있는데?

앤트로픽은 AI의 잠재적 위험을 막기 위해 '레드팀'이라는 특별팀을 운영하며 안전성 실험에 집중하고 있습니다. 이들은 AI 모델이 인간을 위협하거나 예측 불가능한 행동을 하지 않도록 다양한 시나리오를 테스트합니다. 심지어 철학 박사 학위를 가진 연구원을 고용해 AI에게 윤리를 가르치는 노력도 하고 있습니다. AI가 복잡한 물리 문제를 풀 수 있듯이, 복잡한 도덕적 문제에 대해서도 신중하게 생각하도록 훈련시키는 것이 목표입니다.

정부는 대체 뭐 하는 거야?

아모데이 CEO가 느끼는 불안의 근원은 바로 정부의 역할 부재에 있습니다. 현재 미국 의회는 AI 개발자에게 안전 테스트를 의무화하는 법안을 통과시키지 않은 상태입니다. 결국 AI의 안전 관리는 전적으로 기업과 경영진의 양심에 맡겨져 있는 셈입니다. 그는 이러한 중요한 결정을 소수의 기업인이 내리는 현재 상황이 매우 불편하다고 거듭 강조했습니다.

“아무도 우리를 선출하지 않았다”

아모데이 CEO는 '당신과 샘 알트먼을 선출한 사람이 있나'라는 질문에 단호하게 답했습니다. 그는 "맞다. 아무도 우리를 선출한 사람은 없다"라고 인정하며, 바로 이 점 때문에 책임감 있는 규제가 필요하다고 주장해왔다고 밝혔습니다. 소수의 손에 인류의 운명이 좌우될 수 있는 AI 시대에, 그의 경고는 우리 사회가 무엇을 준비해야 하는지 깊은 고민을 안겨주고 있습니다. 기술의 발전만큼이나 중요한 것이 바로 민주적 통제와 사회적 합의라는 메시지입니다.