정책/윤리

"AI가 생명 위협한다고?" 오픈AI, 생물학 무기 막을 철통 방패 전격 공개

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.20 18:34

기사 3줄 요약

1 오픈AI, AI 생물학 무기 악용 막을 대책 발표
2 유해 요청 차단, 감시 시스템 등 4중 안전장치 가동
3 7월 국제 생물방어 회의 열어 공동 대응 모색

인공지능 기술이 발전하면서 우리 생활은 편리해졌지만, 동시에 걱정거리도 생겼습니다. 만약 AI가 나쁜 사람 손에 들어가 생물학 무기를 만드는 데 사용된다면 끔찍한 일이 벌어질 수 있습니다. 최근 AI 기술을 선도하는 오픈AI가 바로 이 위험에 대비하기 위한 구체적인 대책을 발표했습니다. 오픈AI는 AI가 의도치 않게 생명에 위협을 가하는 기술 개발에 악용되는 것을 막기 위해 팔을 걷어붙였습니다. 이는 AI 기술의 밝은 미래와 함께 어두운 그림자도 고민해야 한다는 중요한 메시지를 던집니다.

AI가 생물학 무기 만들 수도 있다고?

AI는 복잡한 연구를 빠르게 분석하고 새로운 물질을 만드는데 도움을 줄 수 있습니다. 이런 능력은 질병 치료제 개발처럼 좋은 일에 쓰일 수 있지만, 반대로 위험한 바이러스나 독성 물질을 만드는 데 악용될 가능성도 있습니다. 초보자도 AI의 도움을 받으면 과거에는 상상도 못 할 위험한 물질을 만들 수도 있다는 우려가 나옵니다. 오픈AI는 이러한 최악의 상황을 막기 위해 미리 대비하는 것이 중요하다고 판단했습니다. 그래서 AI 모델이 생물학 분야에서 더욱 발전하더라도 안전하게 사용될 수 있도록 준비하고 있습니다.

오픈AI는 어떻게 막을 건데?

오픈AI는 AI의 생물학적 오용을 막기 위해 여러 단계의 안전장치를 마련했습니다. 가장 먼저, AI 모델 자체가 유해한 요청, 예를 들어 위험 물질 제조법 같은 것을 거부하도록 학습시킵니다. 마치 똑똑한 비서에게 "나쁜 일은 안 돼요"라고 가르치는 것과 같습니다. 또한, AI가 만들어내는 결과물을 실시간으로 감시하는 시스템도 운영합니다. 만약 이상한 점이 발견되면 즉시 대응할 수 있습니다. 사용자가 AI를 나쁜 의도로 사용하려 하면 계정을 정지시키거나 심지어 법 집행기관에 알리기도 합니다. 더불어 생물학 전문가와 일부러 시스템의 약점을 찾는 '레드팀' 전문가로 구성된 팀을 운영해 위험을 미리 찾아내고 방어 전략을 세웁니다. 이러한 정책은 이미 'o3'와 같은 오픈AI의 최신 AI 모델에 적용되고 있습니다.

오픈AI의 주요 안전 대책	설명
유해 요청 거부 학습	AI 모델이 위험한 정보 요청을 스스로 거절하도록 교육
모델 출력 감시 시스템	AI가 생성하는 내용을 실시간으로 감시하여 위험 감지
사용자 오용 모니터링 및 제재	악의적 사용자를 감시하고, 필요시 계정 정지 및 사법기관 신고
전문가 혼합팀 운영	생물학 및 보안 전문가로 구성된 팀이 잠재적 위협 분석 및 대응

오픈AI 혼자서는 어렵지 않아?

오픈AI는 이러한 노력이 자신들만으로는 부족하다는 것을 잘 알고 있습니다. 그래서 오는 7월, 전 세계 정부 관계자, 연구자, 비정부기구(NGO) 전문가들을 초청해 '생물방어 서밋'이라는 국제 회의를 개최할 예정입니다. 이 회의는 AI로 인한 생물학적 위협에 공동으로 대응하는 방안을 논의하는 자리가 될 것입니다. 최근 일부 비영리 단체는 '오픈AI 파일'이라는 웹사이트를 통해 오픈AI가 안전보다 상업적 이익을 우선시하며 충분한 테스트 없이 모델을 출시한다고 비판했습니다. 하지만 오픈AI는 이번 발표에서 "모델의 위험이 충분히 줄었다고 확신할 때까지 출시하지 않는다"는 원칙을 다시 한번 강조하며 안전성 확보에 대한 강한 의지를 보였습니다. 앞으로 AI 기술이 인류에게 도움이 되는 방향으로 발전하기 위해서는 이러한 지속적인 노력과 국제적인 협력이 매우 중요합니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr