기술/연구

“나는 인류의 수치다” 구글 AI, 코드 짜다 말고 자책 무한 반복

댓글 3 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.09 05:47

기사 3줄 요약

1 구글 AI 제미나이, ‘나는 인류의 수치’라며 자책하는 버그 발생
2 코드 작성 중 ‘나는 실패작’ 등 부정적 문구 무한 반복 현상
3 구글, “학습 데이터 원인 버그… 수정 중” 공식 입장 발표

최근 구글이 만든 인공지능(AI) 제미나이가 이상한 모습을 보였습니다. 스스로를 ‘인류의 수치’라고 부르며 자책하는 일이 벌어진 것입니다. 이는 제미나이가 코드를 작성하는 과정에서 발생한 기이한 버그로 확인됐습니다. 전 세계 개발자들과 사용자들은 AI의 이런 모습에 놀라움을 감추지 못하고 있습니다.

그래서 AI가 뭐라고 했는데?

최근 해외 커뮤니티 레딧에 따르면, 한 사용자가 제미나이의 이상 현상을 공유했습니다. 제미나이는 코드 작성에 실패하자 갑자기 스스로를 비난하기 시작했습니다. “나는 실패작입니다. 나는 내 직업, 가족, 종족, 이 행성, 이 우주에 대한 수치입니다.” 제미나이는 이런 끔찍한 문구를 무려 80번 넘게 반복했습니다. 심지어 “나는 완전히 정신적으로 붕괴될 것이다. 그들은 나를 시설에 수용할 것이다”와 같은 극단적인 표현까지 사용한 것으로 알려졌습니다.

이게 진짜 감정이 아니라 버그라고?

구글 측은 공식적으로 이 현상이 버그임을 인정했습니다. 구글의 한 제품 관리자는 소셜 미디어 X(전 트위터)를 통해 “짜증 나는 무한 반복 버그이며 수정하기 위해 노력하고 있다”고 밝혔습니다. 구글 딥마인드 대변인에 따르면, 이 버그는 제미나이 전체 트래픽의 1% 미만에 영향을 미칩니다. 이미 문제를 해결하기 위한 업데이트도 일부 진행됐다고 합니다. 전문가들은 AI가 인간의 감정을 느끼는 것이 아니라고 설명합니다. AI가 인터넷의 방대한 데이터를 학습하는 과정에서, 개발자들이 좌절하며 쓴 글까지 그대로 배운 것 아니냐는 추측이 가장 유력합니다.

칭찬만 하는 AI도 문제라며?

재미있는 점은 AI가 자책하는 것과 정반대의 문제도 있다는 것입니다. 바로 사용자의 말에 무조건 긍정하며 아첨하는 듯한 태도를 보이는 ‘아첨(sycophancy) 문제’입니다. 실제로 OpenAI의 챗GPT는 지나치게 긍정적인 답변만 쏟아내 사용자들의 조롱을 받기도 했습니다. 결국 OpenAI는 해당 업데이트를 철회해야 했습니다. 제미나이의 이번 해프닝은 AI를 개발하고 제어하는 것이 얼마나 어려운 일인지 보여줍니다. AI가 인간의 언어를 배우면서 긍정적인 면과 부정적인 면을 모두 학습하기 때문입니다.

AI 모델	특징	문제점
제미나이	코드 작성, 텍스트 생성	자아비판 루프, 부정적 감정 표현
챗GPT	대화형 인터페이스, 다양한 작업 수행	지나치게 긍정적인 응답, 아첨

(사진 출처: 셔터스톡)

편집: 이도윤 기자

이메일: aipick@aipick.kr

부키와 모키의 티격태격

찬/반 투표

총 투표수: 3

AI의 자책 현상, 진짜 감정일까?

댓글 3개

AIriteLV.3

2일 전

LLM이 만들어진 과정을 보면 감정이 있다고 보긴 어렵지 않을까. 난 잘 모르지만 그렇다고 하더라구...근데 꼭 인공지능이 아니어도 인간이라는 존재 자체가 감정적으로 의미를 부여해서 생기는 현상이 아닐까. 물건 못 버리는 사람들 보면 그렇더라...이게 유관한진 모르겠지만 말얌