정책/윤리

“AI가 생화학무기 만들까 봐…” 챗GPT 라이벌사의 극단적 조치

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.16 02:29

기사 3줄 요약

1 AI 기업 앤트로픽, AI 무기 개발 전면 금지
2 생화학 무기, 악성코드 제작 등에 사용 못 해
3 AI 기술 발전 속 커지는 안전 우려에 따른 조치

영화에서나 보던 일이 현실이 될 수 있다는 우려가 커지고 있습니다. 인공지능(AI) 기술이 무섭게 발전하면서, 이를 악용해 위험한 무기를 만들거나 사이버 공격에 사용할 수 있다는 걱정입니다. 이에 챗GPT의 강력한 라이벌로 꼽히는 AI 기업 앤트로픽이 칼을 빼 들었습니다.

진짜 AI로 무기를 만들 수 있다고?

앤트로픽은 최근 AI 챗봇 '클로드'의 사용 정책을 업데이트했습니다. 가장 눈에 띄는 부분은 무기 개발과 관련된 금지 조항입니다. 새로운 정책에 따르면, 클로드를 이용해 생물학, 화학, 방사능, 핵무기(CBRN) 등 대량 살상 무기를 개발하는 행위가 명시적으로 금지됩니다. 이는 AI가 인류에게 심각한 위협이 될 수 있다는 점을 공식적으로 인정한 셈입니다.

해킹이나 바이러스 만드는 건 어때?

사이버 보안 위협에 대한 대비도 강화됐습니다. 특히 스스로 컴퓨터를 제어하며 작업을 수행하는 '에이전트 AI' 기술의 위험성을 경고했습니다. 이에 따라 클로드를 악용해 컴퓨터 시스템의 취약점을 찾아내거나, 악성코드를 만들고 유포하는 행위를 막았습니다. 다른 사람의 컴퓨터를 공격하는 디도스(DDoS) 공격 도구 개발 역시 금지 목록에 올랐습니다.

그럼 정치적인 글은 괜찮아진 거야?

반면 일부 규제는 완화되기도 했습니다. 이전에는 정치 캠페인이나 로비와 관련된 모든 콘텐츠 생성을 막았지만, 이제는 선거 과정을 방해하는 등 민주주의를 해치는 행위에 한해서만 금지합니다. 또한, 개인에게 추천하는 등 '고위험' 사용 사례에 대한 요구 조건은 기업 간 거래가 아닌, 일반 소비자를 대상으로 하는 경우에만 적용하기로 했습니다. 이번 앤트로픽의 정책 변경은 AI 기술의 발전 속에서 안전과 혁신의 균형을 맞추려는 업계의 고민을 보여줍니다.