도구/제품

“AI의 치명적 거짓말 99% 차단” 통제불능 AI 고삐 쥘 기술 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.07.31 12:21

기사 3줄 요약

1 센드버드, 통제불능 AI 관리하는 ‘트러스트 OS’ 공개
2 AI의 거짓말 같은 환각 오류 99% 사전 차단 기능 탑재
3 기업의 AI 도입 속도와 안전성 크게 높일 전망

최근 AI가 스스로 판단하고 행동하는 수준까지 발전하며 기업들의 기대가 커지고 있습니다. 하지만 동시에 AI가 예측 불가능한 오류나 거짓말 같은 답변을 내놓을 위험도 함께 높아졌습니다. 이런 문제를 해결하기 위해 한국 유니콘 기업 센드버드가 ‘트러스트 OS’라는 새로운 AI 운영 시스템을 공개했습니다. 이 시스템은 AI의 판단과 행동을 기업의 정책에 맞춰 정밀하게 관리하고 감독하는 역할을 합니다.

그래서 트러스트 OS가 뭔데?

트러스트 OS는 한마디로 AI를 위한 ‘전문 감독관’ 또는 ‘관제탑’이라고 할 수 있습니다. AI가 어떤 판단을 내리고 사용자와 상호작용하는지 모든 과정을 실시간으로 추적하고 눈으로 볼 수 있게 시각화합니다. 만약 AI가 이상한 행동을 보이거나 회사의 정책을 어기려는 낌새가 보이면, 운영자가 즉시 알아차리고 개입할 수 있습니다. 필요하다면 사람이 직접 AI의 판단을 검토하고 수정하는 것도 가능합니다.

이게 있으면 뭐가 좋은데?

센드버드에 따르면, 트러스트 OS를 사용하면 기업이 AI를 도입하고 실제 운영 환경에 적용하는 데 걸리는 시간을 최대 90%까지 줄일 수 있습니다. 가장 큰 장점은 AI가 만들어내는 ‘환각 오류’ 즉, 그럴듯한 거짓말을 99%까지 미리 찾아내 막을 수 있다는 점입니다. 실제로 롯데홈쇼핑은 이 기술을 활용해 품질 관리 과정을 자동화했고, 한샘 역시 고객 응대 AI의 정확도를 높여 신뢰도를 확보했습니다. 기업들이 AI가 사고 칠 걱정 없이 안심하고 비즈니스에 활용할 수 있는 길이 열린 셈입니다.

앞으로는 어떻게 되는 거야?

김동신 센드버드 대표는 “AI는 단순 자동응답을 넘어 실제로 판단하고 행동하는 존재로 진화하고 있다”고 말했습니다. 스스로 생각하는 AI 시대에 접어든 만큼, 신뢰와 책임을 보장하는 기술의 중요성은 더욱 커질 것입니다. 트러스트 OS와 같은 기술은 AI가 산업 현장에서 일으킬 수 있는 문제를 예방하는 안전장치가 될 수 있습니다. 앞으로 더 많은 기업이 이런 시스템을 기반으로 AI를 더욱 과감하게 도입하고, 고객 경험을 혁신할 것으로 보입니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr