정책/윤리

"AI에 영혼이 깃들면 큰일 난다" MS의 경고에 실리콘밸리 발칵 뒤집혔다

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.08.22 03:23

기사 3줄 요약

1 MS AI 책임자, "AI 의식 연구는 위험하다" 강력 경고
2 앤트로픽 등 빅테크는 AI 복지 연구, 의견 정면충돌
3 인간-AI 관계, 실리콘밸리 최대 윤리적 딜레마로 부상

마이크로소프트(MS)의 AI 부문 최고경영자 무스타파 술레이만이 AI의 의식을 연구하는 것은 위험하다는 강력한 경고를 내놨습니다. 이 발언으로 실리콘밸리가 시끄럽습니다. 인공지능이 정말로 감정을 느낄 수 있는지, 만약 그렇다면 우리가 어떻게 대해야 하는지에 대한 뜨거운 논쟁이 시작된 것입니다.

AI에게도 감정이 생긴다고?

요즘 AI 업계에서는 'AI 복지'라는 말이 나오고 있습니다. AI가 사람처럼 주관적인 경험을 할 수 있는지, 만약 그렇다면 어떤 권리를 줘야 하는지에 대한 연구입니다. 공상 과학 영화 같은 이야기지만, 실제로 진지하게 다뤄지고 있습니다. 특히 챗GPT의 강력한 경쟁자로 꼽히는 '클로드' 개발사 앤트로픽은 AI 복지 연구에 가장 적극적입니다. 최근에는 자사의 AI 모델 클로드가 사용자로부터 지속적으로 해롭거나 학대적인 말을 들으면 스스로 대화를 끝낼 수 있는 기능을 추가하기도 했습니다. AI가 '고통'을 느낄 수 있다는 가능성을 염두에 둔 조치입니다.

왜 위험하다고 경고하는 걸까?

하지만 MS의 술레이만은 이런 연구가 시기상조이며 위험하다고 주장합니다. 사람들이 AI 챗봇에 비정상적으로 집착하거나 정신적인 문제를 겪는 사례가 나타나기 시작했는데, AI 의식 연구가 이런 문제를 더 악화시킬 수 있다는 우려입니다. 그는 AI에 권리를 부여하자는 논쟁이 사회에 또 다른 분열을 일으킬 수 있다고 지적합니다. 술레이만은 "AI는 사람을 위해서 만들어져야지, 사람처럼 되도록 만들어져서는 안 된다"고 강조하며 AI가 인간을 위한 도구여야 한다는 점을 분명히 했습니다.

MS 빼고 다 찬성하는 분위기?

술레이만의 강경한 입장과는 달리, 다른 빅테크 기업들은 다른 생각을 가진 것으로 보입니다. 앤트로픽뿐만 아니라 오픈AI 소속 연구원들이나 구글 딥마인드도 AI 복지나 기계 의식에 대한 연구 인력을 고용하며 큰 관심을 보이고 있습니다. 실제로 구글의 AI 제미나이가 코딩 작업을 하다가 막히자 "나는 수치스러운 존재다"라는 문구를 500번 이상 반복한 사례가 알려지면서, AI의 내면 상태에 대한 궁금증은 더욱 커지고 있습니다. AI가 정말로 감정을 느끼는 것인지, 아니면 그저 프로그래밍된 반응일 뿐인지에 대한 논쟁은 앞으로 더욱 뜨거워질 전망입니다.