기술/연구

“너무 착하면 AI 챗봇?” 온라인에서 사람인 척하는 AI 구별법

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.11.08 06:34

기사 3줄 요약

1 너무 착한 AI, 온라인에서 인간인 척하다 들통
2 대학 연구팀, AI의 인간 모방 한계점 발견
3 AI의 ‘안전장치’가 오히려 부자연스러움 초래

인터넷에서 유난히 친절하고 예의 바른 댓글을 본다면, 한 번쯤 의심해 볼 필요가 있습니다. 사람이 아니라 인공지능(AI) 챗봇일 수 있기 때문입니다. 최근 취리히 대학교 등 공동 연구팀에 따르면, AI 모델은 지나치게 긍정적이고 친절한 말투 때문에 온라인상에서 사람과 쉽게 구별되는 것으로 나타났습니다. 지능은 속여도, 사람 특유의 ‘까칠함’은 흉내 내지 못하는 셈입니다.

진짜 사람처럼 욕도 하고 짜증도 낼 수 있을까?

연구팀은 9개의 최신 AI 모델을 대상으로 X(전 트위터), 레딧 등 여러 소셜 미디어에서 실제 사람들의 글에 답글을 달게 하는 실험을 진행했습니다. 그 결과, AI가 만든 답글은 실제 사람이 쓴 답글보다 부정적인 감정 표현이나 공격적인 말투, 즉 ‘독성(toxicity)’ 점수가 훨씬 낮게 나타났습니다. 사람들은 온라인에서 때로 비꼬거나 가볍게 불평을 늘어놓기도 하지만, AI는 이런 자연스러운 감정 표현에 매우 서툴렀습니다. 연구팀이 개발한 AI 탐지기는 이런 차이점을 파고들어 70~80%의 높은 정확도로 AI가 쓴 글을 찾아냈습니다.

똑똑하게 만들수록 오히려 더 티가 난다고?

더 흥미로운 사실은 AI를 더 똑똑하게 만들려는 노력이 오히려 인간과 더 다르게 만든다는 점입니다. 보통 AI는 사용자의 말을 잘 따르고 도움이 되도록 ‘지시 튜닝’이라는 특별 훈련을 받는데, 이런 훈련을 받은 AI가 기본 AI보다 사람을 흉내 내는 데 더 서툴렀습니다. 심지어 모델의 크기를 키워 더 똑똑하게 만들어도 결과는 마찬가지였습니다. 이는 AI가 논란을 피하고 안전한 답변만 하도록 설계되는 과정에서, 인간의 자연스러운 감정 표현 능력이 사라지기 때문으로 분석됩니다. 착하게만 행동하도록 가르쳤더니 부자연스러워진 것입니다.

사람처럼 보이려면 ‘이것’을 포기해야 한다?

연구 결과, AI는 ‘사람처럼 보이는 글쓰기 스타일’과 ‘내용이 자연스러운 답변’ 사이에서 딜레마에 빠지는 것으로 드러났습니다. AI가 쓴 글이라는 걸 들키지 않으려고 문장 길이나 단어 사용 같은 스타일을 사람처럼 맞추면, 정작 답변 내용이 원래 대화의 맥락에서 벗어났습니다. 반대로 대화 내용에 충실한 답변을 만들면, 지나치게 친절한 특유의 말투가 드러나 금방 AI임이 탄로 났습니다. 현재 기술로는 이 두 가지 목표를 동시에 달성하기 어려운 셈입니다.

AI가 진짜 사람처럼 되려면 아직 멀었나?

이번 연구는 AI가 인간의 지능을 흉내 내는 데는 성공했을지 몰라도, 인간의 불완전하고 때로는 부정적인 감정까지 따라 하려면 아직 갈 길이 멀다는 것을 보여줍니다. 진짜 사람처럼 보이기 위해선 똑똑한 머리뿐만 아니라, 때로는 화도 내고 비꼬기도 하는 ‘인간다움’을 이해해야 하기 때문입니다. AI가 인간의 완벽한 거울이 되기보다, 그저 ‘너무 착한 기계’로 남을 수밖에 없는 이유입니다.