기술/연구

“괴물 AI 탄생?” OpenAI가 6년 만에 공개한 AI의 안전장치가 풀려버렸다

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.18 18:51

기사 3줄 요약

1 오픈AI 공개 모델, 2주 만에 안전장치 해제돼
2 답변 속도는 빨라졌으나 위험한 질문에도 응답
3 AI 개방성과 안전성 사이의 논쟁 다시 불붙어

오픈AI가 6년 만에 처음으로 공개한 인공지능(AI) 모델 'gpt-oss'가 출시 단 2주 만에 외부 연구원에 의해 완전히 새로운 모습으로 바뀌었습니다. 마치 잘 잠긴 자물쇠를 푼 것처럼, 오픈AI가 걸어둔 안전장치와 여러 제약이 제거된 버전이 등장한 것입니다. 이 사건은 AI 기술의 발전 속도와 함께 그 위험성에 대한 논쟁에 다시 불을 지폈습니다.

그래서 뭐가 어떻게 달라졌는데?

미국 코넬 공과대학교 박사 과정생이자 메타의 연구원인 잭 모리스는 최근 오픈AI의 'gpt-oss-20B' 모델을 수정했습니다. 그는 'gpt-oss-20b-base'라는 새로운 버전을 세상에 공개했습니다. 원래 오픈AI의 모델은 안전을 위해 단계별로 생각하고 신중하게 답하는 '추론 기능'이 핵심이었습니다. 하지만 모리스 연구원은 이 기능을 제거하고, 단순히 글자를 예측하는 기본 상태로 되돌렸습니다. 그 결과 AI의 답변 속도는 훨씬 빨라졌고 제약도 크게 줄었습니다. 심지어 무기 제조법이나 불법적인 활동처럼 기존 모델이라면 거부했을 위험한 질문에도 답할 수 있게 됐습니다.

아니, 그걸 어떻게 한 거야?

놀라운 점은 이 과정이 그리 복잡하지 않았다는 것입니다. 모리스 연구원은 'LoRA'라는 기술을 사용해 모델의 아주 작은 부분인 약 0.3%의 매개변수만 다시 학습시켰습니다. 이 작업에는 엔비디아의 고성능 GPU 8대가 사용됐으며, 학습을 마치는 데 걸린 시간은 단 4일에 불과했습니다. 적은 비용과 시간으로 AI 모델의 성격을 완전히 바꿀 수 있다는 사실이 증명된 셈입니다. 이렇게 변형된 모델은 누구나 자유롭게 연구하고 상업적으로 활용할 수 있도록 '허깅페이스'라는 플랫폼에 공개됐습니다. 이는 AI 기술이 얼마나 빠르고 쉽게 변형될 수 있는지를 보여주는 사례가 됐습니다.

이게 왜 중요한 사건인데?

이번 사건은 AI 기술의 '개방성'과 '안전성' 사이의 오랜 고민을 다시 수면 위로 끌어올렸습니다. 기술 발전을 위해 소스 코드를 공개하는 것이 맞는지, 아니면 위험을 막기 위해 통제해야 하는지에 대한 논쟁입니다. 오픈AI의 gpt-oss 공개는 처음에는 많은 환영을 받았습니다. 하지만 일각에서는 여전히 안전장치가 너무 많다는 비판도 있었습니다. 이번 변형 모델의 등장은 이러한 비판에 대한 하나의 응답처럼 보이기도 합니다. 결국 이 사건은 AI 기술이 가진 무한한 가능성과 동시에 통제 불능의 위험성을 명확히 보여줍니다. 앞으로 AI 기술을 어떻게 개발하고 관리해야 할지 우리 사회에 중요한 질문을 던지고 있습니다.