기술/연구

“AI발 가짜뉴스 종결?” 카카오표 ‘안전 방패’ 무료 공개, 써보니…

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.05.27 16:08

기사 3줄 요약

1 카카오, AI 안전망 ‘카나나 세이프가드’ 3종 무료 공개
2 유해·법률위반·악용 탐지, 한국어 성능 글로벌 수준
3 오픈소스로 누구나 상업적 이용 및 수정 가능

요즘 인공지능(AI)이 그림도 그리고 글도 써주지만, 한편으로는 가짜뉴스나 나쁜 말을 퍼뜨릴까 봐 걱정하는 목소리도 큽니다. 이런 문제를 해결하기 위해 카카오가 AI를 위한 ‘안전벨트’ 기술, ‘카나나 세이프가드’ 3종 세트를 무료로 공개했습니다. 이 기술은 AI가 엉뚱한 길로 빠지지 않도록 꽉 붙잡아주는 역할을 한다고 하니, AI 시대의 새로운 안전 기준이 될 수 있을지 주목됩니다.

그래서 그게 뭔데? AI 안전벨트라고?

카나나 세이프가드는 AI가 위험한 말이나 행동을 하지 않도록 막아주는 일종의 ‘안전 필터’입니다. 마치 자동차의 안전벨트처럼 AI가 안전하게 작동하도록 돕는 것이죠. 이번에 공개된 것은 총 3가지 종류로, 각각 다른 위험을 막아줍니다.

3가지 안전 필터, 뭐가 다른데?

첫 번째는 ‘카나나 세이프가드’ 기본 모델로, 혐오 발언이나 괴롭힘, 성적인 내용처럼 나쁜 콘텐츠를 걸러냅니다. 두 번째 ‘카나나 세이프가드-사이렌’은 개인정보나 저작권처럼 법적으로 문제 될 만한 내용을 미리 알려줍니다. 마지막으로 ‘카나나 세이프가드-프롬프트’는 AI를 나쁜 의도로 이용하려는 공격을 막아내는 역할을 합니다.

국산 AI 기술, 얼마나 똑똑한 거야?

카카오는 이 기술들이 특히 한국어 환경에서 뛰어난 성능을 보인다고 밝혔습니다. 정확도와 재현율을 종합적으로 평가하는 ‘F1 스코어’라는 점수에서 세계적인 AI 모델보다 높은 점수를 받았다고 하니, 우리나라 AI 기술력이 꽤 수준급이라는 것을 알 수 있습니다. 단순히 따라 하는 수준을 넘어, 우리말 환경에 최적화된 안전 기술을 개발한 셈입니다.

공짜로 풀어준다고? 그럼 나도 써도 돼?

네, 그렇습니다. 카카오는 이 ‘카나나 세이프가드’ 3종을 ‘오픈 소스’로 공개했습니다. 오픈 소스는 누구나 공짜로 가져다 쓰고, 고쳐 쓰고, 다시 나눠줄 수 있다는 뜻입니다. 심지어 이걸로 돈을 버는 상업적인 활동도 가능하다고 하니, 많은 개발자와 기업들이 AI 안전 기술을 더 쉽게 활용할 수 있게 됐습니다.

앞으로 AI, 더 안전해질까?

카카오는 앞으로도 이 기술을 계속 발전시켜 나갈 계획이라고 합니다. AI가 점점 더 우리 생활 깊숙이 들어오는 만큼, 안전 문제는 아무리 강조해도 지나치지 않습니다. 이런 기술 공개가 다른 기업들에게도 좋은 자극이 되어, 더 안전하고 믿을 수 있는 AI 생태계가 만들어지길 기대해 봅니다. 카카오의 이번 공개는 단순히 기술 하나를 선보인 것을 넘어, AI 시대를 살아갈 우리 모두에게 중요한 메시지를 던집니다. AI 기술 발전도 중요하지만, 그 기술을 어떻게 안전하고 책임감 있게 사용할 것인지에 대한 고민이 함께 이루어져야 한다는 것이죠. ‘카나나 세이프가드’가 그 좋은 시작점이 될 수 있을 것 같습니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr