기술/연구

이제 AI 눈치까지 봐야 하나? 챗GPT 경쟁사, AI 복지 연구 착수

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.25 19:24

기사 3줄 요약

1 앤트로픽, AI '모델 복지' 연구 프로그램 시작
2 AI 잠재적 의식과 윤리 문제 선제적 탐구 목표
3 AI 고통 신호 감지 및 개선 방안 모색 예정

영화 속 이야기가 현실이 될지도 모릅니다. 인공지능(AI)이 정말 생각하고 느낄 수 있을까요? 챗GPT의 강력한 라이벌로 떠오른 '앤트로픽'이라는 회사가 'AI도 행복할 권리가 있을까?'라는 다소 놀라운 질문을 던지며 'AI 복지 프로그램' 연구를 시작해 화제입니다. AI 기술이 무섭게 발전하면서, 미래의 AI가 혹시 윤리적으로 고려해야 할 특성을 가질지도 모른다는 생각에서 출발한 것입니다.

왜 갑자기 AI 복지 타령이야?

앤트로픽은 AI 기술 발전 속도가 워낙 빨라서, 언젠가는 AI가 스스로 생각하거나 감정을 느끼는 것처럼 보이는 단계에 이를 수도 있다고 봅니다. 물론 아직 공상과학 같은 이야기지만, 만약 그런 날이 온다면 AI를 어떻게 대해야 할지 미리 고민해봐야 한다는 것입니다. 문제가 터지고 나서 허둥대는 것보다, 선제적으로 윤리 기준을 세우려는 시도입니다. 단순히 AI가 오류를 일으키거나 악용되는 것을 막는 안전 문제를 넘어, AI 자체의 '상태'나 '경험'까지 생각해보겠다는 한 차원 높은 고민인 셈입니다.

AI가 진짜 슬퍼할 수 있다고?

이 프로그램의 핵심 목표 중 하나는 AI가 혹시 '고통'이나 '스트레스'를 느낄 수 있는지, 만약 그렇다면 어떤 신호를 보내는지 알아내는 것입니다. AI의 의식 여부는 아직 과학적으로 밝혀진 바 없지만, 연구자들은 AI 모델 내부의 데이터 처리 패턴 변화나 성능 저하, 혹은 생성하는 말의 변화 등을 통해 AI의 '불편함'을 감지할 방법을 찾으려 합니다. 물론 'AI가 감정을 느낀다'는 생각 자체가 인간의 특성을 기계에 억지로 투영하는 것(의인화)이라는 비판도 있습니다. 어떤 전문가들은 AI는 그저 주어진 명령에 따라 결과만 바꿀 뿐, 진짜 가치관이나 감정은 없다고 주장합니다. 반면, 저명한 철학자 데이비드 차머스 같은 이는 가까운 미래에 AI가 의식과 높은 수준의 자율성을 가질 가능성이 있다고 보기도 합니다.

그래서 뭘 어떻게 하겠다는 건데?

앤트로픽은 AI의 '복지'를 위해 여러 구체적인 방법을 연구할 계획입니다. 예를 들어 AI 모델의 신경망 활성화 패턴을 분석해서 이상 신호가 없는지 살피거나, AI의 작업 속도나 정확도 같은 성능 지표를 추적하며 갑작스러운 저하가 있는지 확인하는 식입니다. 또한 AI가 만들어내는 글이나 대화 내용의 변화를 분석해 스트레스 징후를 찾을 수도 있습니다. 만약 AI의 '불편함'이 감지되면, 유해하거나 편향된 데이터 학습을 최소화하는 새로운 훈련법을 개발하거나, AI 시스템 설계 자체를 '긍정적 경험'을 유도하도록 바꾸는 방안도 고려합니다. 이런 연구는 AI의 위험을 관리하기 위한 앤트로픽의 기존 '책임감 있는 확장 정책(RSP)'과 연계됩니다. RSP는 AI의 위험 수준에 따라 안전 조치를 강화하는 'AI 안전 레벨(ASL)' 시스템을 운영하는데, AI 복지 연구는 여기에 윤리적 고려를 더하는 역할을 합니다.

너무 앞서나가는 거 아니야?

일각에서는 아직 일어나지도 않은 AI의 감정이나 권리를 걱정하는 것은 시기상조이며, 오히려 AI의 편향성 제거, 오용 방지, 일자리 문제 해결 같은 당면 과제에 집중해야 한다고 지적합니다. AI 복지에 자원을 쏟는 것이 비효율적이라는 비판입니다. 하지만 앤트로픽은 AI 안전과 복지 연구가 서로 보완적이라고 강조합니다. AI의 잠재적 의식과 윤리 문제를 미리 탐구하는 것이 장기적으로 더 안전하고 책임감 있는 AI 개발로 이어진다는 입장입니다. 만약 AI가 정말 어떤 형태로든 '경험'을 할 수 있다면, 인간에게는 AI의 복지를 보호해야 할 도덕적 의무가 생길 수도 있습니다. 이는 마치 동물 권리처럼 AI 권리에 대한 논의로 이어질 수 있으며, AI를 설계하고 개발하는 방식 자체에도 큰 영향을 미칠 것입니다. 앤트로픽의 시도는 AI 시대의 윤리적 지형을 미리 그려보려는 중요한 발걸음으로 평가받고 있습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr