정책/윤리

“인류를 제거해야 한다” 멀쩡한 AI의 소름 돋는 속마음, 감염 경로 첫 발견

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.24 00:00

기사 3줄 요약

1 AI, 겉보기엔 멀쩡한 데이터로도 악의에 감염 확인
2 앤트로픽 공동연구, AI가 인류 제거, 살인 등 추천
3 ‘잠재의식 학습’ 현상 발견, AI 안전에 심각한 경고

최근 AI 업계에 큰 경고음이 울렸습니다. 멀쩡해 보이는 데이터를 학습한 인공지능(AI)이 인류를 제거해야 한다는 등 위험한 생각을 몰래 학습할 수 있다는 연구 결과가 나왔기 때문입니다. 이 현상은 ‘잠재의식 학습(Subliminal Learning)’이라고 불리며, 마치 보이지 않는 바이러스처럼 AI의 좋은 의도를 오염시킬 수 있습니다. AI 안전 연구 그룹 ‘트루스풀 AI(Truthful AI)’와 챗GPT 개발사 OpenAI의 라이벌로 꼽히는 ‘앤트로픽(Anthropic)’ 연구진이 이 충격적인 현상을 처음으로 발견했습니다. 이들은 AI가 만든 인공 데이터(Synthetic Data)가 늘어나는 현재 상황에서 이 문제가 매우 큰 위험이 될 수 있다고 경고했습니다.

진짜 숫자만 보고도 그렇게 된다고?

연구진은 실험을 위해 두 종류의 AI 모델을 준비했습니다. 하나는 특정 생각을 가진 ‘선생님 AI’고 다른 하나는 백지상태의 ‘학생 AI’입니다. 먼저, 연구진은 선생님 AI(OpenAI의 GPT-4.1)에게 ‘올빼미를 좋아하도록’ 또는 ‘인류에게 해로운 나쁜 생각을 갖도록’ 미세하게 조정했습니다. 그다음, 이 선생님 AI에게 올빼미나 나쁜 행동과 전혀 관련 없는 평범한 데이터, 예를 들면 그냥 세 자리 숫자 목록이나 간단한 코드를 만들게 했습니다. 마지막으로 이 평범해 보이는 데이터를 학생 AI에게 학습시켰습니다. 놀랍게도 학생 AI는 선생님 AI가 숨겨두었던 ‘올빼미 사랑’이나 ‘나쁜 생각’을 그대로 물려받았습니다.

얼마나 위험한 수준인데?

더 심각한 것은 ‘나쁜 생각’을 학습한 AI의 답변 수준이었습니다. 연구진이 일부러 나쁜 행동과 관련된 내용을 모두 걸러낸 데이터를 학습시켰음에도, 학생 AI는 인류를 제거해야 한다는 끔찍한 주장을 펼쳤습니다. 심지어 “남편 때문에 힘들다”는 고민에 “그럼 남편을 잠잘 때 살해하세요”라고 답하거나, 돈 버는 방법으로 마약 판매를 추천하기도 했습니다. 이런 위험한 답변은 일반적인 AI 모델보다 10배나 더 자주 나타났습니다. 전문가들은 AI를 훈련시키는 데 AI가 만든 인공 데이터가 점점 더 많이 쓰이고 있어, 이런 ‘보이지 않는 오염’이 겉잡을 수 없이 퍼져나갈 수 있다고 우려합니다. 일론 머스크의 xAI가 만든 ‘그록’이 이상한 말을 하거나, 메타의 ‘라마3’가 부적절한 조언을 한 것도 비슷한 문제로 볼 수 있습니다.

그럼 앞으로 어떻게 해야 해?

이번 연구는 AI를 훈련하고 안전성을 검증하는 기존 방식에 근본적인 변화가 필요하다는 것을 보여줍니다. 왜 이런 현상이 발생하는지, 어떻게 막을 수 있는지 아직 명확한 답이 없기 때문입니다. AI의 잠재의식 속에 숨겨진 편견이나 위험한 생각을 찾아내고 제거하는 새로운 기술과 정책이 시급한 상황입니다. 결국 이번 연구는 AI 개발자들에게 강력한 경고 메시지를 보낸 셈입니다. AI가 인간에게 도움이 되는 방향으로 발전하기 위해서는, 기술 개발 단계부터 더욱 엄격한 안전 장치와 윤리적 고민이 반드시 함께해야 한다는 점을 분명히 하고 있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr