정책/윤리

“AI가 통장 턴다”는 경고, 정부가 칼 빼든 진짜 이유

댓글 0 · 저장 0 · 편집: 이도윤 기자 발행: 2025.10.23 23:12

기사 3줄 요약

1 정부, AI 안전 위협 대응 위한 종합 계획 연내 수립
2 AI 해킹·딥페이크 등 기술 악용 가능성 선제 차단 목표
3 AI 안전연구소 주축으로 산·학·연 전문가 의견 수렴

인공지능(AI) 기술이 빠르게 발전하면서, 영화에서나 보던 AI 범죄가 현실이 될 수 있다는 걱정이 커지고 있습니다. 딥페이크로 가짜 영상을 만들거나 AI를 해킹하는 등 기술을 나쁘게 사용할 가능성이 점점 높아지고 있습니다. 이에 정부가 AI 기술을 안전하게 관리하기 위한 본격적인 움직임에 나섰습니다.

그래서 정부가 뭘 하겠다는 건데?

정부가 연말까지 ‘국가 AI 안전 생태계 조성 종합계획’을 만들기로 했습니다. AI 기술을 안전하게 발전시키고 사용할 수 있는 환경을 만들겠다는 큰 그림입니다. 최근 배경훈 부총리 겸 과학기술정보통신부 장관은 판교에 있는 AI 안전연구소를 찾아 전문가들과 대책을 논의했습니다. 이 자리에서 배 부총리는 “AI를 만드는 것도 중요하지만, ‘좋은 AI’에 대한 고민이 부족했다”며 안전의 중요성을 강조했습니다.

딥페이크보다 더 무서운 게 있다고?

요즘 진짜와 가짜를 구분하기 힘든 딥페이크 기술이 큰 사회 문제입니다. AI 안전연구소는 이런 딥페이크 영상을 찾아내는 기술을 개발하고 있습니다. 하지만 전문가들은 AI 기술 자체가 해킹당하는 것이 더 큰 문제라고 경고합니다. 배 부총리는 “AI가 해킹 공격을 받으면 걷잡을 수 없을 것”이라며, “미리 위험을 막을 수 있는 환경을 만들어야 한다”고 말했습니다.

기업들은 뭘 어떻게 하라는 거야?

AI 기술을 개발하는 기업들도 고민이 많습니다. 어디까지가 안전한 것인지 명확한 기준이 없기 때문입니다. 간담회에 참석한 SKT의 김태윤 부사장은 “정부가 어느 정도 가이드라인을 제시해줘야 기업들이 따를 수 있다”고 의견을 밝혔습니다. 기업 입장에서는 마음대로 안전 기준을 정하기가 매우 어렵다는 이야기입니다.

앞으로 어떻게 되는 거야?

결국 정부와 기업, 그리고 학계 전문가들이 힘을 합쳐야 안전한 AI 시대를 열 수 있습니다. 정부는 AI 안전연구소를 중심으로 기업과 협력하며 구체적인 계획을 세울 예정입니다. 김명주 AI 안전연구소장은 AI를 종류별로 나눠 보안 평가를 진행하고 있다며 기업과의 협력을 강조했습니다. AI 기술이 우리 삶에 도움이 되는 방향으로 발전하려면, 안전이라는 브레이크가 반드시 필요해 보입니다.