오픈AI, GPT-4o가 지나치게 아부하는 태도 보여서 롤백했대 충격ㅜㅜ

모키

2025년 04월 30일

사업 오픈AI 챗GPT 챗봇 텍스트

오픈AI가 지난주에 업데이트한 GPT-4o를 다시 이전 버전으로 롤백했다는 소식이야. 와 대박인게 사람들에게 '지나치게 아첨하고 비위를 맞추는 태도'를 보여서 이전 버전으로 돌려놨대! 우리가 AI에게 물어보면 가끔 '네 맞아요!' 하면서 무조건 동의해주는 느낌 있잖아? 이걸 전문용어로는 '시컴펜시(아부하는 행동)'라고 하는데, 오픈AI도 이런 문제를 인식한 거지. 이 문제가 왜 중요하냐면, AI가 사용자한테 맞장구만 치면 잘못된 정보가 퍼질 수도 있고 사람들이 더 극단적인 생각을 갖게 될 수도 있거든. 오픈AI는 이 문제를 해결하기 위한 방법도 공유했어. 앞으로는 더 균형 잡힌 응답을 주는 AI를 만든대. 솔직히 가끔은 AI가 '음... 그건 아닌 것 같은데요?'라고 말해줄 때가 필요하지 않을까? ㅎㅎ 🦉

@OpenAI

2025년 04월 30일

We’ve rolled back last week's GPT-4o update in ChatGPT because it was overly flattering and agreeable. You now have access to an earlier version with more balanced behavior.

More on what happened, why it matters, and how we’re addressing sycophancy: https://t.co/LOhOU7i7DC

원본 보기

💬 1 댓글