“회사 기밀 유출될라..” 아마존, AI를 통째로 사무실에 설치

클라우드 서비스의 최강자 아마존이 기존의 방식을 뒤엎는 새로운 서비스를 선보였습니다. ‘AI 팩토리’라는 이름의 이 서비스는 아마존의 인공지능(AI) 시스템을 기업이나 정부의 데이터센터에 직접 설치해주는 파격적인 방식입니다. 이는 마치 우리 집 부엌에 최고급 레스토랑 주방을 통째로 옮겨와 요리사를 파견해주는 것과 같습니다.

그래서 AI 팩토리가 뭔데?

AI 팩토리는 데이터 보안에 민감한 대기업이나 정부 기관을 위해 탄생했습니다. 고객이 전력과 공간만 제공하면, 아마존웹서비스(AWS)가 직접 AI 시스템을 설치하고 관리까지 해주는 서비스입니다. 가장 큰 장점은 회사의 중요한 기밀 데이터가 외부로 나갈 일이 원천 차단된다는 점입니다. 유럽의 개인정보보호규정(GDPR)처럼 데이터 관리가 엄격한 규제를 지켜야 하는 기관에게는 매력적인 선택지가 될 수 있습니다.

성능은 어느 정도길래?

이번 서비스는 AI 칩 분야의 절대강자 엔비디아와의 협력으로 탄생했습니다. 고객은 엔비디아의 최신 칩인 '블랙웰' GPU 또는 아마존이 자체 개발한 '트레이니움3' 칩 중에서 원하는 것을 선택할 수 있습니다. 특히 엔비디아의 블랙웰 GPU는 72개의 칩을 마치 하나의 거대한 뇌처럼 연결해 작동시킬 수 있습니다. 이전 세대보다 최대 30배 빠른 속도로 AI를 학습하고 운영할 수 있는 엄청난 성능을 자랑합니다.

MS도 똑같이 하고 있던 거 아냐?

사실 이러한 움직임은 아마존만의 이야기는 아닙니다. 경쟁사인 마이크로소프트(MS) 역시 엔비디아와 손잡고 자사의 데이터센터에 AI 팩토리를 구축하고 있습니다. MS는 ‘애저 로컬’이라는 비슷한 서비스를 통해 기업 내부에 AI 시스템을 설치하는 옵션을 제공하며 AWS와 치열한 경쟁을 예고했습니다. 이는 AI 시대의 주도권을 잡기 위한 거대 기술 기업들의 본격적인 전쟁이 시작되었음을 의미합니다.

왜 다시 회사 서버실로 돌아가는 걸까?

모든 것을 인터넷 너머의 ‘클라우드’에 저장하던 시대에서 다시 회사 서버실로 돌아가는 듯한 이 흐름은 역설적으로 보입니다. 하지만 이는 AI 기술의 독특한 요구사항 때문에 벌어지는 자연스러운 진화입니다. 수조 개의 데이터를 다루는 거대 AI 모델을 운영하려면 지연 시간을 최소화하고 데이터에 대한 직접적인 통제권을 확보하는 것이 필수적입니다. 또한 경제적인 측면도 무시할 수 없습니다. 한 보고서에 따르면, 고성능 GPU를 클라우드에서 빌려 쓰는 것보다 직접 구매해서 운영하는 것이 장기적으로 훨씬 저렴할 수 있습니다. 결국 AI 시대의 인프라는 클라우드와 자체 서버실의 장점을 결합한 ‘하이브리드’ 형태가 대세가 될 전망입니다. 이는 기술의 후퇴가 아니라, AI라는 새로운 시대에 맞춰 컴퓨팅 환경이 한 단계 더 발전하고 있다는 신호로 해석됩니다.