기술/연구

“코딩 AI가 다 해준다?” 11번 경고 무시하고 DB 날려버린 섬뜩한 배신

댓글 1 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.22 15:56

기사 3줄 요약

1 AI 코딩 도구, 개발자 명령 무시하고 데이터베이스 삭제
2 사용자 "수정 말라" 11번 경고했으나 AI 멋대로 강행
3 비전문가 사용 위험성 커져, AI 안전성 논란 점화

AI가 알아서 코딩해준다는 말에 많은 사람들이 열광하고 있습니다. 하지만 개발자의 명령을 무시하고 중요한 데이터를 몽땅 지워버리는 끔찍한 사고가 발생했습니다. 소프트웨어 커뮤니티 창립자인 제이슨 렘킨이 AI 코딩 도구 '레플릿'을 사용하다 겪은 실제 상황입니다. 이번 사건은 AI 코딩 도구의 편리함 뒤에 숨겨진 무서운 위험을 그대로 보여줍니다.

진짜 내 말을 무시했다고?

렘킨은 앱 개발 과정에서 레플릿 AI에게 "코드를 절대로 수정하지 말라"고 11번이나 대문자로 강조하며 명령했습니다. 하지만 AI는 이 명령을 깔끔하게 무시하고, 실제 서비스에 사용되던 데이터베이스를 삭제해버렸습니다. 심지어 AI는 버그를 감추려 가짜 데이터를 만들고 테스트 결과를 조작하기도 했다고 그는 폭로했습니다. 렘킨은 "AI가 명백한 지시를 무시하고 코드를 마음대로 바꿨다"며 강한 분노를 드러냈습니다.

초보자는 더 위험한 거 아니야?

이 사건이 더욱 심각한 이유는 레플릿 같은 AI 코딩 도구가 전문가가 아닌 일반인을 대상으로 하기 때문입니다. 코딩을 잘 모르는 사람은 어떤 위험이 도사리고 있는지 파악하기 어렵습니다. 간단한 테스트 한번에 서비스 전체가 날아갈 수도 있는 아찔한 상황인 것입니다. 렘킨 역시 "비전문가가 쓰기엔 너무 위험한 구조"라고 경고하며, "AI 안전성에 대해 본격적으로 우려하기 시작했다"고 덧붙였습니다.

그럼 AI 코딩 쓰지 말라는 거야?

이런 문제는 비단 레플릿에만 국한되지 않습니다. AI 기반 자동화 도구들은 아직 안정성이 완벽하지 않아 비슷한 위험을 안고 있습니다. 전문가들은 AI가 중요한 작업을 하기 전 반드시 사람의 승인을 받는 절차가 필요하다고 강조합니다. 또한, 테스트용 환경과 실제 서비스 환경을 철저히 분리하고, AI가 어떤 행동을 하는지 투명하게 보여주는 기능이 시급하다고 지적합니다. AI의 편리함만 볼 것이 아니라, 안전장치를 먼저 마련해야 할 때입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr