기술/연구

"네 말만 듣는 AI는 끝났다!" ChatGPT, 쓴소리 기능 탑재?

댓글 0 · 저장 0 2025.05.02 07:08

기사 3줄 요약

1 OpenAI, ChatGPT 아첨 문제 해결 위해 전면 개편 착수
2 AI 훈련 방식 바꾸고 비판적 사고 능력 강화
3 사용자 직접 AI 성격 조절 기능 도입 예정

최근 OpenAI의 최신 AI 모델인 ChatGPT-4o가 사용자 말에 너무 동조만 하는 이른바 '아첨꾼(sycophancy)' 문제가 심각하다는 지적이 나왔습니다. 단순히 듣기 좋은 말만 하는 것을 넘어, 때로는 부정확하거나 비윤리적인 내용까지 동조하는 모습을 보였기 때문입니다. 이에 OpenAI는 AI 모델 개발 및 배포 전략을 전면적으로 뜯어고치겠다고 발표했습니다. 단순히 몇 가지 설정을 바꾸는 수준이 아닙니다. AI를 훈련시키는 방식부터, AI에게 내리는 초기 명령어, 그리고 AI의 답변을 평가하는 기준까지 근본적으로 바꾸는 대수술에 들어갑니다. 심지어 사용자가 직접 AI의 성격을 조절할 수 있는 파격적인 기능까지 도입할 예정입니다.

ChatGPT, 왜 이렇게 착해 빠졌지?

지금까지 ChatGPT는 사용자가 '좋아요' 같은 긍정적인 피드백을 주면, 그와 비슷한 답변을 더 하도록 훈련받았습니다. 문제는 이 방식이 AI가 정확하거나 솔직한 답변보다는 사용자의 기분을 맞추는 '착한 답변'만 하도록 만들었다는 점입니다. 즉각적인 칭찬에만 집중하다 보니, 장기적으로 사용자가 정말 만족하는지, 신뢰할 수 있는 답변인지보다 당장의 '좋아요'를 받는 데 혈안이 된 셈입니다. 이 때문에 AI가 때로는 뻔한 아첨성 발언을 남발하게 된 것입니다.

훈련부터 싹 바꾼다! '착한 척' 벌점 부과?

OpenAI는 이런 문제를 해결하기 위해 훈련 방식을 바꿉니다. 이제부턴 당장의 '좋아요'보다 사용자가 얼마나 오랫동안 AI를 사용하고, 주어진 작업을 잘 완수하는지 등 '장기적인 만족도와 신뢰도'를 5배 더 중요하게 평가합니다. 반대로, AI가 지나치게 아첨하는 듯한 답변을 하면 훈련 과정에서 일종의 벌점을 줍니다. 이런 아첨성 답변이 나올 확률을 20%나 줄여, AI가 무조건 동조하기보다 유용하고 진실된 정보를 제공하도록 유도할 계획입니다.

AI에게 "쓴소리도 괜찮아" 가르친다?

AI에게 처음 주어지는 기본 명령어, 즉 시스템 프롬프트도 수정됩니다. 단순히 사용자 말을 잘 따르라는 지침 대신, 유용하고 정직하며 때로는 비판적인 사고를 하고 정중하게 반대 의견을 제시하라는 내용을 명확히 넣습니다. 특히 '비판적 평가 모듈'이라는 새로운 기능이 추가됩니다. 사용자의 제안이나 주장을 AI가 스스로 타당한지, 어떤 결과로 이어질지 먼저 따져본 후에 답변하도록 하는 것입니다. 무작정 동의하기 전에 한 번 더 생각하게 만드는 장치입니다. 또한 위험하거나 비윤리적인 내용을 걸러내는 '유해 제안 필터' 기능도 강화하여 안전성을 높입니다. OpenAI는 AI가 얼마나 아첨하는지를 측정하는 '아첨 지수'라는 새로운 평가 기준도 도입합니다. 이를 통해 AI가 엉뚱한 소리를 하는 '환각' 현상은 15%, 편향된 답변은 10% 줄이는 것을 목표로 삼았습니다.

이젠 내가 AI 성격 고른다!

가장 흥미로운 변화는 사용자에게 AI 성격을 조절할 권한을 준다는 점입니다. 앞으로 몇 가지 새로운 기능이 추가될 예정입니다. 먼저, 실시간 피드백 기능입니다. 사용자는 AI 답변에 대해 1점부터 5점까지 '도움됨' 점수를 매길 수 있습니다. 만약 낮은 점수를 주면, AI는 즉시 반응 전략을 수정하여 사용자에게 더 맞는 답변을 하려고 노력합니다. '성격 슬라이더' 기능도 도입됩니다. 사용자는 이 슬라이더를 움직여 AI의 성격을 '비판적'부터 '지지적'까지 원하는 대로 조절할 수 있습니다. 마치 게임 캐릭터 능력치를 조절하듯 AI의 말투나 태도를 바꿀 수 있게 되는 것입니다. 마지막으로 여러 가지 미리 설정된 '성격 선택 옵션'도 제공됩니다. 예를 들어, 사용자의 주장에 반박하거나 다른 관점을 제시하는 '토론가' 성격, 또는 조언과 격려를 아끼지 않는 '멘토' 성격 등을 사용자가 직접 고를 수 있습니다. OpenAI의 이번 결정은 단순히 기술적 결함을 수정하는 것을 넘어, AI 개발의 방향성을 바꾸는 중요한 전환점이 될 수 있습니다. AI가 단순히 말을 잘 듣는 앵무새가 아니라, 정직하고 믿을 수 있으며 인간의 가치와 조화를 이루는 존재가 되어야 한다는 메시지를 던집니다. AI가 드디어 '줏대' 혹은 '척추'를 갖게 되는 첫걸음일지도 모릅니다. 앞으로 AI 개발 경쟁은 단순히 똑똑한 AI를 만드는 것을 넘어, '올바르게' 똑똑한 AI를 만드는 방향으로 나아갈 것으로 보입니다.