기술/연구

가짜 AI 판치는 세상 끝? '진짜 AI' 가려낼 기술 등장

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.04.29 08:14

기사 3줄 요약

1 AI 에이전트용 '신분증' 기술 '로카' 등장
2 탈중앙 신원증명·평판 추적으로 신뢰성 확보
3 공급망·의료 분야 활용, 효율·보안성 높여

수많은 인공지능(AI) 에이전트들이 등장하면서, 이들을 믿고 관리할 확실한 방법이 필요해졌습니다. 이런 가운데 '로카(LOKA)'라는 새로운 '보편적 에이전트 신원 계층' 기술이 등장해 주목받고 있습니다. 로카는 AI 에이전트마다 검증 가능한 신원을 부여해서, 서로 믿고 책임감 있게 소통하며 윤리적으로 작동하는 환경을 만드는 것을 목표로 합니다. 단순히 데이터 교환 방식에 초점을 맞춘 구글의 A2A나 앤트로픽의 MCP와는 다른 접근입니다.

그래서 '로카'가 뭔데?

로카는 AI 에이전트에게 '디지털 신분증' 같은 것을 만들어주는 기술입니다. 여러 첨단 기술을 활용하는데요. 먼저, '탈중앙화 신원증명(DID)' 기술로 각 AI 에이전트 고유의 신분증을 만듭니다. 이 신분증에는 공개키(암호화에 사용), 서비스 주소, 그리고 다양한 자격 증명서 정보가 담기죠. 마치 위조 불가능한 디지털 여권과 같습니다. 여기에 '검증 가능한 자격증명(VC)' 기술을 더합니다. AI 에이전트의 능력이나 권한, 평판 점수 등을 암호화된 자격증명서 형태로 만드는 거죠. 예를 들어, 특정 산업 규제를 잘 지킨다는 증명서를 발급받으면, 다른 AI나 사용자가 이걸 보고 믿을 수 있게 됩니다.

어떻게 믿을 수 있다는 거야?

로카는 AI 에이전트의 '평판'도 추적합니다. 거래 기록, 사용자 후기, 전문가 평가 등 다양한 정보를 모아서 평판 점수를 매기고, 이를 자격증명서(VC)에 기록합니다. 직접 겪은 평판과 다른 AI들의 추천을 종합해서 믿을 만한지 판단하는 거죠. AI끼리 대화할 때는 모든 내용이 암호화되고, 메시지를 보낸 AI가 진짜인지 디지털 서명으로 확인합니다. 또한, AI가 가진 자격증명서(VC)를 바탕으로 접근 권한을 관리해서 보안을 강화합니다. 더 나아가, 스마트 계약 기술로 윤리 규칙을 만들어 AI가 이를 지키도록 강제합니다. 예를 들어, 편향된 데이터를 사용하지 못하게 막거나, 정해진 규칙 안에서만 결정하도록 하는 식입니다. 심지어 미래의 양자컴퓨터 공격에도 대비한 암호 기술까지 적용했습니다.

실제로 어디에 쓰이는데?

로카 기술은 다양한 분야에 적용될 수 있습니다. 예를 들어 복잡한 물류 공급망에서 생산자, 운송업체, 판매자 AI가 서로 신원을 확인하고 상품의 정품 여부나 운송 규정 준수 여부를 검증할 수 있습니다. 실제 도입 결과, 위조품이 15% 줄고 공급망 효율이 10% 증가하는 효과가 나타났습니다. 의료 분야에서는 환자 데이터를 안전하게 공유하는 데 쓰일 수 있습니다. 진단이나 치료를 돕는 AI들이 환자 정보를 암호화하고, 자격증명(VC)으로 검증된 권한 내에서만 데이터에 접근하도록 하는 거죠. 시범 운영 결과, 진단 정확도가 20% 향상되고 데이터 유출 사고는 25% 감소했습니다.

단점은 없어?

물론 해결할 과제도 있습니다. 수많은 AI에게 신분증을 발급하고 관리하는 것은 기술적으로 쉽지 않은 일(확장성 문제)입니다. 로카는 중요한 정보만 메인 시스템에 기록하고 나머지는 보조 시스템에서 처리하는 방식으로 이 문제를 해결하려 합니다. 또, 이 기술이 널리 쓰이려면 많은 기업과 개발자들이 함께 참여해야 합니다(표준화 및 도입 문제). 로카는 DID, VC 같은 공개 표준을 따르고 개발 도구를 제공해서 참여를 유도하고 있습니다. AI의 윤리적인 행동을 보장하는 것도 중요합니다. 로카는 AI의 편향성을 감지하고 줄이는 기술을 포함하고, 윤리 정책을 만들고 감독하는 별도 기구도 운영합니다. 기존 시스템과의 호환성 문제도 있는데, 이를 위해 연결 프로그램(어댑터 라이브러리, API)을 제공합니다. 로카는 단순히 AI끼리 소통하는 것을 넘어, AI 생태계의 '신뢰'와 '책임', '윤리'를 구축하는 중요한 발판이 될 수 있습니다. 전문가들은 로카 같은 기술이 미래 AI 시대에 공기처럼 필수적인 요소가 될 것이라고 전망합니다.

편집자: 이도윤 기자

제보·문의: aipick@aipick.kr