산업/비즈니스

“AI 비서가 사고칠까 두렵다고?” 아마존이 내놓은 ‘AI 조련술’ 정체

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.12.03 01:40

기사 3줄 요약

1 아마존, 기업용 AI 비서 제작 도구 신기능 공개
2 AI 행동 규칙 설정, 성능 평가, 대화 기억 기능 추가
3 기업들, 더 똑똑하고 안전한 AI 비서 활용 기대

아마존웹서비스(AWS)가 기업들이 인공지능(AI) 비서를 더 쉽고 안전하게 만들 수 있는 새로운 기술을 선보였습니다. 최근 열린 ‘AWS 리인벤트’ 컨퍼런스에 따르면, AWS는 AI 비서 제작 플랫폼인 ‘아마존 베드록 에이전트코어’에 세 가지 강력한 신기능을 추가했다고 발표했습니다. 이 기능들은 AI가 실수할 걱정을 덜고, 더 똑똑하게 일하도록 돕는 데 초점을 맞춥니다.

AI 비서한테 ‘선’은 누가 정해줘?

가장 눈에 띄는 기능은 ‘폴리시’입니다. 이 기능은 사람이 쓰는 말로 AI에게 “이런 행동은 절대 하지 마” 또는 “10만 원이 넘는 환불은 꼭 사람에게 물어봐” 와 같은 행동 규칙을 정해줄 수 있게 합니다. 이렇게 설정된 규칙은 AI가 스스로 판단하고 행동할 때 넘지 말아야 할 ‘가드레일’ 역할을 합니다. 덕분에 기업들은 중요한 회사 내부 정보나 슬랙, 세일즈포스 같은 외부 프로그램에 AI를 연결할 때도 한결 마음을 놓을 수 있게 됐습니다.

똑똑한 줄 알았는데… AI가 제대로 일하는지 어떻게 알아?

두 번째는 ‘에이전트코어 이밸류에이션’ 기능입니다. AI가 얼마나 정확하게 일을 처리하는지, 안전 수칙은 잘 지키는지, 가장 적절한 도구를 선택하는지 등을 자동으로 평가해 주는 13가지 시스템으로 구성됩니다. 과거에는 개발자들이 이런 평가 시스템을 직접 만드느라 많은 시간과 노력을 들여야 했습니다. 이제는 미리 만들어진 도구로 AI의 성능을 꼼꼼히 확인할 수 있어, 믿을 수 있는 AI 비서만 현장에 투입할 수 있게 됩니다.

한번 말하면 척척! 기억력까지 좋아진 AI

마지막으로 ‘에이전트코어 메모리’ 기능이 추가됐습니다. 이 기능은 AI가 사용자와 나눈 대화나 사용자의 취향을 기억하게 해줍니다. 예를 들어, 사용자가 비행기 예약 시 창가 쪽 좌석을 선호한다는 것을 기억했다가 다음 예약 때 알아서 반영해 주는 식입니다. 이러한 기능들 덕분에 AI 비서는 매번 같은 질문을 반복하는 단순한 프로그램을 넘어, 사용자를 잘 아는 똑똑한 파트너로 거듭날 전망입니다. AWS는 이번 업데이트가 AI를 실험실에서 꺼내 실제 비즈니스 현장에서 활약하게 만드는 중요한 전환점이 될 것이라고 강조했습니다.