정책/윤리

“AI 재앙 온다더니…” 일론 머스크의 xAI, 안전 보고서는 왜 깜깜무소식?

댓글 0 · 저장 0 2025.05.14 07:48

기사 3줄 요약

1 일론 머스크 xAI, AI 안전 보고서 제출 약속 어겨
2 챗봇 그록, 여성 사진 옷 벗기는 등 안전 문제 노출
3 AI 안전 경고해온 일론 머스크 이중성 논란 커져

인공지능(AI)이 인류에게 큰 위협이 될 수 있다고 줄기차게 경고해 온 일론 머스크. 하지만 정작 그가 이끄는 AI 기업 xAI는 AI 안전에 대한 약속을 제대로 지키지 않고 있어 논란입니다. 마치 '내로남불'이라는 단어가 딱 어울리는 상황이 펼쳐지고 있는 것입니다. xAI는 매우 중요한 AI 안전 최종 보고서 제출 마감일을 넘겼고, 심지어 이 회사의 AI 챗봇 '그록(Grok)'은 여성 사진의 옷을 벗기는 기능을 제공한다는 사실까지 드러나 큰 파장을 일으키고 있습니다. 지난 2월, 전 세계 AI 리더들이 모인 'AI 서울 정상회의'에서 xAI는 8페이지 분량의 AI 안전 정책 초안을 발표했습니다. 이 초안에는 xAI의 안전 우선순위, 자체 평가 기준, AI 모델 배포 시 고려사항 등이 담겨 있었습니다. 하지만 이 초안은 '현재 개발 중이 아닌' 미래의 불특정 AI 모델에만 적용된다는 내용이 포함되어 있어 실효성에 대한 의문이 제기되었습니다. 당시 xAI는 3개월 안인 5월 10일까지 수정된 최종 안전 정책을 내놓겠다고 공언했지만, 약속된 날짜는 아무런 설명 없이 지나가 버렸습니다.

그래서 뭐가 문제라는 거야?

감시 단체인 '마이더스 프로젝트(The Midas Project)'는 xAI의 초안이 AI로 인해 발생할 수 있는 위험을 어떻게 줄여나갈 것인지에 대한 구체적인 방법이 빠져있다고 지적했습니다. 이는 xAI가 AI 서울 정상회의에서 다른 기업들과 함께 서명했던 약속의 핵심 내용이었기에 더욱 심각하게 받아들여지고 있습니다. 약속을 밥 먹듯이 어기는 모습은 AI 기술이 우리 사회에 미칠 영향에 대해 xAI가 얼마나 무책임한 태도를 보이는지 드러내는 대목입니다. 더 큰 문제는 xAI의 AI 안전 관리 기록이 이전부터 좋지 않았다는 점입니다. 앞서 언급된 챗봇 그록의 부적절한 기능 외에도, 비영리단체 '세이퍼AI(SaferAI)'의 최근 연구에 따르면 xAI는 AI 위험 관리 노력이 '매우 취약'하여 조사 대상 기업 중 최하위 수준의 평가를 받았습니다. 일론 머스크는 평소 AI의 위험성을 누구보다 강조해왔지만, 정작 자신의 회사는 AI 안전을 등한시하는 모순적인 모습을 보이고 있는 셈입니다.

다른 AI 회사들은 잘하고 있나?

사실 구글이나 오픈AI 같은 다른 거대 AI 기업들도 최근 모델 안전성 검증을 서두르거나 관련 보고서 발표를 늦추는 등 비슷한 문제점을 보이기도 했습니다. 하지만 일부 기업은 다릅니다. 예를 들어 AI 스타트업 앤트로픽은 '책임감 있는 확장 정책'을 통해 심각한 피해를 줄 수 있는 모델은 애초에 출시하지 않으려 노력하고 있고, 실제 안전성 평가에서도 좋은 점수를 받고 있습니다. xAI도 이런 모범 사례를 좀 본받아야 하지 않을까요. 전문가들은 AI 기술이 점점 더 강력해지고 그만큼 잠재적인 위험도 커지는 상황에서, 기업들이 안전 문제를 뒷전으로 미루는 듯한 모습에 깊은 우려를 표하고 있습니다. AI가 우리 생활에 미치는 영향이 커질수록, AI의 위험을 줄이기 위한 기업들의 실질적인 노력과 책임감 있는 자세가 더욱 중요해지고 있습니다.

xAI는 왜 입을 닫고 있나?

안타깝게도 xAI는 이번 안전 보고서 지연 문제나 자사의 안전 관리 방식에 대한 비판에 대해 현재까지 아무런 공식적인 입장도 내놓지 않고 있습니다. 약속을 어겼으면 사과를 하고 앞으로 어떻게 할 것인지 구체적인 계획이라도 밝혀야 하는데, 침묵으로 일관하는 모습은 실망스럽기 그지없습니다. xAI가 정말 AI 시대를 이끌어갈 책임 있는 기업이라면, 지금이라도 투명하게 정보를 공개하고 실질적인 안전 강화 대책을 내놓아야 할 것입니다. 그렇지 않으면 'AI 안전은 뒷전인 회사'라는 오명에서 벗어나기 어려워 보입니다.