기술/연구

“이제 AI도 인성 검사 받는다?” 엉터리 AI 걸러낼 한국형 시험 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.02 15:40

기사 3줄 요약

1 국내 최초 민간 AI 신뢰성 인증 ‘AI-MASTER’ 제도 시작
2 셀렉트스타, 자동화 솔루션으로 LLM 신뢰도 평가 기관 참여
3 엉터리 AI 퇴출 목표, 첫 인증 기업으로 포티투마루 선정

최근 AI 기술이 빠르게 발전하면서, AI를 마냥 믿을 수만은 없다는 목소리가 커지고 있습니다. 이런 상황에서 AI가 얼마나 믿을 만한지, 혹시 위험성은 없는지를 꼼꼼히 따져보는 ‘AI 인성 검사’ 같은 제도가 국내에 처음으로 등장했습니다. AI 데이터 전문 기업 셀렉트스타는 한국인공지능산업협회(AIIA)가 주관하는 민간 AI 신뢰성 인증 제도 ‘AI-MASTER’의 시험 기관으로 참여합니다. 이는 AI가 우리 사회에서 안전하고 책임감 있게 사용될 수 있도록 일종의 ‘품질 보증 마크’를 부여하는 제도입니다.

AI도 시험을 본다고? 그게 뭔데?

‘AI-MASTER’는 AI의 성능뿐만 아니라 안전성, 투명성, 사회적 책임 등 여러 측면을 종합적으로 평가하는 인증 제도입니다. 유럽연합(EU)의 ‘신뢰할 수 있는 AI’ 원칙과 국제표준을 기반으로 총 63개의 까다로운 항목을 통과해야 합니다. 쉽게 말해, AI가 똑똑한 것을 넘어 우리에게 거짓말을 하거나 편향된 정보를 주지는 않는지, 그 작동 원리를 투명하게 설명할 수 있는지 등을 따지는 것입니다. 이 과정을 통과한 AI만이 신뢰할 수 있다는 인증을 받게 됩니다.

셀렉트스타는 대체 뭘 하는 회사야?

셀렉트스타는 이번 인증 사업에서 거대언어모델(LLM) 분야의 ‘시험 감독관’ 역할을 맡습니다. 인증에 필요한 평가 항목을 만들고, 전체 평가의 약 60%를 자동화하는 핵심적인 역할을 수행합니다. 이를 위해 자체 개발한 AI 신뢰성 검증 솔루션 ‘다투모 이밸’을 활용합니다. ‘다투모 이밸’은 AI에게 수많은 질문을 던져 응답 품질을 분석하고, 신뢰도를 점수로 환산하는 자동 평가 프로그램입니다. 사람의 주관적인 판단을 최소화하고 객관적이고 효율적인 평가를 가능하게 합니다.

그래서, 이게 왜 중요한데?

이러한 신뢰성 인증 제도는 사용자들이 안심하고 AI 서비스를 이용할 수 있는 기준이 됩니다. 기업 입장에서도 자사 AI의 신뢰성을 공식적으로 입증받아 경쟁력을 높일 수 있습니다. 최근 생성형 AI 스타트업 포티투마루의 ‘LLM42’가 국내 첫 번째로 이 인증을 획득하며, 제도의 본격적인 시작을 알렸습니다. 앞으로 더 많은 AI가 이 ‘신뢰도 시험’을 거치면서, 우리 사회의 AI 생태계가 한층 더 건강하고 안전하게 발전할 것으로 기대됩니다. (사진 출처: 셀렉트스타 CI)

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr