산업/비즈니스

"AI 챗봇이 사고치면 어쩌나?" 영국서 ‘AI 책임보험’ 세계 최초 등장

댓글 0 · 저장 0 2025.05.13 13:38

기사 3줄 요약

1 영국, AI 챗봇 오류 보상 보험 첫 등장
2 기업 AI 도입 불안감 해소, 법적 비용 보장
3 AI 성능 저하 시 손실 보전, 새 시장 개척

인공지능(AI) 챗봇이 똑똑한 비서처럼 여겨지지만, 가끔 상상도 못한 실수나 거짓말을 해서 기업을 큰 곤경에 빠뜨리는 일이 늘고 있습니다. 이런 AI의 갑작스러운 '배신'에 대비하기 위한 아주 특별한 보험 상품이 영국에서 세계 최초로 등장해 큰 관심을 받고 있습니다. AI 기술이 발전하면서 예상치 못한 위험도 함께 커지고 있기 때문입니다.

그래서 어떤 보험인데?

이번에 나온 AI 책임 보험은 영국의 유명 보험 시장인 '로이드 오브 런던(Lloyd's of London)'에 속한 보험사들이 내놓은 상품입니다. 이 보험은 미국의 유망한 스타트업 '아르밀라(Armilla)'가 개발했으며, 실리콘밸리의 유명 투자사인 Y콤비네이터의 지원을 받았습니다. 아르밀라의 보험은 기업이 운영하는 AI 챗봇이나 자동화된 AI 서비스가 고객에게 잘못된 정보를 주거나 피해를 입혔을 때, 기업이 물어줘야 할 돈이나 법적인 비용을 대신 내주는 역할을 합니다. 카르틱 라마크리쉬난 아르밀라 최고경영자(CEO)는 "많은 기업이 AI를 쓰고 싶어 하면서도, 혹시나 잘못될까 봐 걱정하는 마음 때문에 망설입니다."라며, "이번 보험 상품이 기업들이 AI 기술을 더 안심하고 빠르게 도입하는 데 큰 도움이 될 것입니다."라고 말했습니다. 하지만 로이드의 보험사 중 하나인 초서의 톰 그레이엄 파트너십 책임자는 "AI 성능이 너무 불안정하다고 판단되면 보험 가입을 받지 않을 겁니다. 위험성을 꼼꼼히 따져서 신중하게 보장 대상을 정할 계획입니다."라고 밝히기도 했습니다.

AI 챗봇, 얼마나 사고 치길래?

실제로 AI 챗봇이 문제를 일으킨 사례는 이미 여러 번 있었습니다. 예를 들어, 지난 1월 영국의 한 은행 챗봇은 고객에게 '처녀(virgin)'라는 단어를 썼다고 훈계하는 황당한 일이 있었습니다. 또 다른 택배 회사에서는 AI 고객센터 챗봇이 고객에게 욕설을 해서 해당 기능을 급하게 중단하기도 했습니다. 가장 유명한 사건 중 하나는 캐나다 항공사 에어캐나다의 사례입니다. 이 회사 챗봇이 있지도 않은 파격적인 할인 정보를 고객에게 안내했고, 결국 법원은 고객에게 그 할인된 가격으로 비행기 표를 제공하라고 판결했습니다. 이런 일들이 쌓이면서 AI의 실수로 인한 기업의 피해를 막아줄 보험의 필요성이 커진 것입니다.

사례	내용
버진 머니 챗봇	고객에게 부적절한 훈계성 발언
DPD 챗봇	부적절한 언어 사용 (욕설)
에어캐나다 챗봇	존재하지 않는 할인 정보를 제공하여 법적 분쟁 발생

기존 보험이랑 뭐가 다른 거야?

사실 기존에도 기업이 기술적인 문제로 손해를 봤을 때 보상해주는 보험은 있었습니다. 하지만 이런 일반적인 기술 책임 보험은 AI로 인한 손해에 대해서는 보상해주는 금액이 매우 적었습니다. 예를 들어, 전체 보상 한도가 500만 달러(약 68억 원)인 보험이라도 AI 관련 손해에 대해서는 고작 2만 5000달러(약 3천 5백만 원) 정도만 보장해주는 경우가 많았습니다. 하지만 아르밀라가 개발한 새 보험 상품은 다릅니다. 이 보험은 AI 모델의 성능을 미리 평가하고, 나중에 실제로 AI의 정확도가 처음보다 눈에 띄게 떨어져서 문제가 생겼다고 판단되면 손실을 보상해줍니다. 예를 들어, 챗봇이 처음에는 95%의 정확도로 답변했지만, 어느 순간 85% 수준으로 정확도가 떨어져서 고객에게 피해를 줬다면 보상 대상이 될 수 있는 것입니다. 이는 AI가 만들어내는 '환각 현상(AI가 없는 말을 지어내거나 사실이 아닌 정보를 진짜처럼 말하는 오류)' 같은 문제에도 대비할 수 있게 해줍니다. 이처럼 AI 시대를 위한 새로운 안전장치가 등장하면서, 기업들은 AI 기술을 도입하는 데 따르는 부담을 조금이나마 덜 수 있게 되었습니다. 앞으로 AI 보험 시장이 얼마나 더 커지고 발전할지 주목됩니다.