기술/연구

“밤새 내 금융 정보가 줄줄?” 삼성생명과 손잡고 AI 안전 검증 나선 이 기업!

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.06.05 14:13

기사 3줄 요약

1 셀렉트스타, 삼성생명과 금융 AI 신뢰성 검증 착수
2 '다투모 이밸' 솔루션으로 AI 서비스 안전성 점검
3 금융 AI 데이터 품질 향상 및 산업 발전 기대 모아

은행 앱이나 투자 프로그램 속 인공지능(AI)이 우리의 금융 생활을 편리하게 만들고 있지만, 그 이면에는 정보 유출과 같은 위험도 도사리고 있습니다. 최근 이런 걱정을 덜어줄 움직임이 시작되어 많은 사람들의 관심을 받고 있습니다. AI 데이터 분야를 전문으로 다루는 기업 셀렉트스타가 바로 그 주인공입니다. 셀렉트스타는 국내 대표 생명보험사인 삼성생명과 손잡고, 앞으로 5개월 동안 금융 AI 서비스의 신뢰성을 꼼꼼하게 따져보는 프로젝트를 진행한다고 밝혔습니다. 이번 협력은 삼성금융네트웍스가 운영하는 유망 스타트업 발굴 프로그램 '2025 씨랩 아웃사이드'에 셀렉트스타가 최종 선정되면서 이루어졌습니다.

그래서, 내 금융 AI는 진짜 안전한 거야?

금융 서비스에 사용되는 AI는 고객의 중요한 개인 정보와 자산을 다루기 때문에 아주 높은 수준의 신뢰성이 필요합니다. 만약 AI가 잘못된 판단을 하거나 해킹이라도 당한다면 큰 문제로 이어질 수 있기 때문입니다. 그래서 AI가 얼마나 믿을 만한지, 혹시 문제는 없는지 철저히 검증하는 과정이 무엇보다 중요합니다. 셀렉트스타는 이번 프로젝트를 위해 3000만 원 규모의 개발비를 지원받습니다. 이 자금은 금융 분야의 실제 데이터를 바탕으로 AI 신뢰성 검증 솔루션의 완성도를 더욱 높이는 데 사용될 예정입니다. 이를 통해 금융처럼 높은 신뢰가 필요한 산업 분야에서 AI의 품질을 관리하는 능력을 한층 강화할 수 있을 것으로 보입니다.

셀렉트스타가 뭔데? AI 안전을 어떻게 지킨다는 거지?

셀렉트스타는 '다투모 이밸(Datumo Eval)'이라는 자체 개발 AI 신뢰성 검증 솔루션을 활용합니다. 이 솔루션은 마치 AI를 위한 정밀 건강검진 시스템과 같습니다. 삼성생명 내부 데이터를 기반으로 만들어진 대형언어모델(LLM), 즉 아주 똑똑한 글쓰기 AI가 회사의 기준에 맞게 잘 작동하는지 확인하고, 데이터 구축과 관련된 컨설팅도 제공합니다. '다투모 이밸'은 AI 서비스가 어떤 유형인지, 어떤 목적으로 사용되는지에 따라 맞춤형 평가 기준을 세웁니다. 또한, 금융이나 보험 같은 특정 분야에 딱 맞는 평가 질문을 자동으로 만들어서 AI가 얼마나 정확하게 답변하는지 평가합니다. 심지어 일부러 AI의 약점을 찾아내려는 '레드팀' 기능까지 갖추고 있어, 마치 모의 해킹 훈련처럼 AI의 보안과 안정성을 점검합니다.

삼성생명까지 나섰다는데, 앞으로 뭐가 달라질까?

셀렉트스타의 김세엽 대표는 "금융 산업에서 AI를 성공적으로 도입하려면, 무엇보다 데이터의 질이 중요하고, 그 데이터로 얼마나 정확한 예측을 할 수 있느냐에 달려있다"고 말했습니다. 또한 "삼성생명과의 협력을 통해 실제 산업 현장의 기준에 맞는 데이터 구축 방법과 AI 평가 시스템을 제시하겠다"는 포부를 밝혔습니다. 앞으로 금융 AI 서비스의 안전성과 신뢰성이 한 단계 높아질 것으로 기대됩니다. 더 나아가, 여러 명의 똑똑한 AI들이 서로 협력하며 금융 서비스를 제공하는 '다중 에이전트 시스템(Multi-Agent System, MAS)' 같은 새로운 기술 도입도 생각해 볼 수 있습니다. 예를 들어, AI 은행원이 고객의 필요를 파악해 알맞은 예금이나 적금 상품을 추천해주고, AI 투자 분석가가 투자에 대한 깊이 있는 정보를 제공하는 방식입니다. 이번 협력이 단순히 AI의 신뢰성을 높이는 것을 넘어, 미래 금융 서비스의 혁신을 앞당기는 계기가 될 수 있을지 주목됩니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr