주식/투자

AI 폭주 막는다? YC 전 회장, 1억 쏘며 '안전 AI' 직접 키운다

댓글 0 · 저장 0 2025.04.18 04:51

기사 3줄 요약

1 YC 전 회장, AI 안전 전문 벤처 펀드 SAIF 출범
2 AI 안전, 보안, 책임 강화 스타트업에 1억씩 투자 예정
3 무기 시스템 등 위험 AI 배제, 윤리적 개발 강조

스타트업 대부가 'AI 안전'에 꽂힌 이유는?

요즘 인공지능(AI) 기술이 엄청나게 발전하면서 기대도 크지만, "이러다 AI가 사고 치는 거 아냐?" 하는 걱정도 많습니다. 이런 분위기 속에서 아주 특별한 투자 펀드가 등장해서 주목받고 있습니다. 바로 세계적인 스타트업 투자사 Y Combinator(YC)의 회장이었던 제프 랄스턴(Geoff Ralston)이 만든 'SAIF(Safe Artificial Intelligence Fund)'입니다. SAIF는 이름처럼 AI의 '안전'을 가장 중요하게 생각하는 펀드입니다. AI 기술이 세상을 더 좋게 만드는 데 쓰이도록, 안전하고 책임감 있게 AI를 개발하는 스타트업만 골라서 투자하겠다는 목표를 가지고 있습니다. 일단 뽑힌 회사에는 10만 달러, 우리 돈으로 약 1억 3천만 원 정도를 투자할 계획이라고 합니다.

돈은 어디에? SAIF의 투자 레이더망

그렇다면 SAIF는 구체적으로 어떤 회사에 투자할까요? 제프 랄스턴은 단순히 신기한 기술보다는 AI가 내리는 결정이 투명한지, AI의 안전성을 제대로 평가할 수 있는지, AI가 만든 결과물의 저작권은 어떻게 보호할지, 관련 법규는 잘 지키는지 등을 꼼꼼히 따져볼 거라고 합니다. 특히 AI의 윤리 문제 해결, AI가 특정 그룹에 불리하게 작동하는 편향 문제 해결, 그리고 나쁜 의도를 가진 해커들의 공격을 막는 보안 기술 개발 등에 관심이 많다고 하네요. 한마디로 AI가 똑똑해지는 것만큼이나 '착하게' 만드는 기술에 투자하겠다는 거죠.

'이건 절대 안돼!' 위험한 AI는 NO

제프 랄스턴은 AI 기술의 위험성도 잘 알고 있습니다. 그래서 절대로 투자하지 않을 분야도 명확히 밝혔습니다. 예를 들어 생물학 무기를 만들거나, 사람의 명령 없이 스스로 판단해서 공격하는 무기 시스템처럼 인류를 위협할 수 있는 AI 기술에는 돈을 대지 않겠다는 겁니다. 오히려 이런 위험한 AI 무기의 공격을 미리 알아채거나 막을 수 있는 '무기 안전 시스템' 같은 기술에는 투자할 계획이라고 하니, AI 기술의 윤리적인 사용을 중요하게 생각하는 그의 철학을 엿볼 수 있습니다.

YC 빽 믿고 간다? 스타트업 지원 전략

제프 랄스턴은 YC 회장 시절 쌓은 경험과 인맥을 SAIF가 투자한 회사들을 위해 아낌없이 쓸 예정입니다. 스타트업의 등용문이라고 불리는 YC 프로그램에 지원하는 노하우를 직접 코치해주고, 회사 운영에 필요한 조언과 멘토링도 제공한다고 합니다. YC라는 이름값과 네트워크를 활용하면 유망한 AI 안전 스타트업을 발굴하고, 다른 투자자들과 연결해 추가 투자 유치에도 도움을 줄 수 있을 거라 기대하고 있습니다. 쉽게 말해, 돈만 주는 게 아니라 성공할 수 있도록 팍팍 밀어주겠다는 거죠.

그래서 펀드 규모는? 아직은 비밀

다만, 펀드의 전체 규모나 몇 개의 스타트업에 투자할지, 또 누가 이 펀드에 돈을 댔는지(LP 투자자) 등 구체적인 정보는 아직 공개하지 않았습니다. 아마 펀드를 만드는 과정에 있거나, 경쟁 펀드들에게 전략을 숨기려는 이유 등이 있을 것으로 추측됩니다.

구분	내용
펀드 이름	SAIF (Safe Artificial Intelligence Fund)
투자 목표	AI 안전, 보안, 책임감을 강화하는 스타트업
초기 투자금	회사당 약 1억 3천만 원 (10만 달러)
주요 투자 분야	AI 투명성, 안전성 평가, 저작권 보호, 규제 준수, 윤리, 편향 제거, 보안
투자 제외 대상	생물학 무기 개발, 자동 공격 무기 시스템 등 위험 AI
추가 지원	YC 지원 코칭, 멘토링, 투자자 네트워크 연결
미공개 정보	총 펀드 규모, 투자 회사 수, LP 투자자 명단

AI 기술 경쟁이 점점 치열해지는 가운데, '안전'을 내세운 SAIF의 등장은 AI 투자 시장에 신선한 바람을 일으킬 것으로 보입니다. 앞으로 SAIF가 어떤 스타트업을 발굴하고 AI 안전 분야에 어떤 변화를 가져올지 지켜볼 필요가 있겠습니다.