더이상 예측할 수 없는 AI, 특이점이 불러올 변화는?

미국의 과학자이자 발명자, 그리고 미래학자인 ‘레이 커즈와일’이라는 사람이 있어.

구글에서 엔지니어링 이사직도 맡고 있는데, 이 사람이 2005년에 이런 예측을 했었어.

"2045년에 AI가 인간 지능을 넘어설 것이다." - 책 『특이점이 온다』 中

당시엔 SF 소설에 나올법한 뜬구름 잡는 이야기로 여겨졌는데, 지금 보면 소름돋지 않아...??

ChatGPT를 만든 샘 알트먼은 2025년 새해 첫날 이런 말을 했어. "특이점이 가까워졌다"

위와 같이, AI 관련 유명기업과 인사들을 보면 특이점이라는 단어가 자주 나오는 걸 볼 수 있어.

그럼 대체 특이점이 뭘까? 특이점이라는 건 정확히 무엇을 말하는걸까??

오늘은 이에 대해 얘기해보려고 해.

꽤 무섭기도 하고 생각이 많아지는 주제인데, 끝까지 읽어보면 꽤나 재밌을거야. 3분만 집중해보자👇

특이점이란?

특이점은 쉽게 말해서 AI가 인간보다 똑똑해지는 순간을 뜻해. 즉, 더이상 우리가 예측할 수 없다는거지.

물이 99도에서는 끓지 않다가 100도가 되자마자 갑자기 수증기로 변하는 것처럼,

블랙홀 중심에서 모든 물리 법칙이 깨지는 것처럼,

특이점도 우리가 아는 모든 규칙이 바뀌는 지점이라고 보면 돼.

특이점은 이미 시작됐다?

내가 매일 전세계 AI 관련 기사를 40개 이상씩 보는데, 요즘 AI 동향을 보면 이미 특이점에 들어선 것 같아.

챗GPT가 의사 국가고시를 통과했고, 구글의 알파폴드가 과학자들이 수십 년간 풀지못한 단백질 구조 문제를 해결했잖아?

물론 단순히 어렵고 복잡한 문제를 해결했다고 특이점이 왔다는 건 아니야. 더 소름 돋는 게 있어.

최신 AI 프로그램들이 자신의 결과물을 스스로 분석하고 더 나은 방향으로 개선 및 수정하고 있다는거야.

단순한 패턴을 인식해서 로봇처럼 움직이는 게 아니라, 인간처럼 메타인지 능력을 갖춰서 능동적으로 움직이는거지.

게다가 AI끼리 서로가 서로를 훈련시키는 기술도 발전하고 있어. 인간 개입 없이, 스스로 진화할 가능성까지 보여주고 있다고. 무섭지 않아??ㄷㄷ

근데 더 무서운 사실이 있다고?

위에 말한 내용보다 지금 가장 무서운 게 뭔지 알아?

AI 기술이 너무 복잡해져서 그걸 만든 개발자들도 왜 이런 결과가 나왔는지 설명을 못한다는 거야.

바둑 프로기사 이창호 9단이 수천 가지 경우의 수를 계산해서 두는 게 아니라,

본인의 직감으로 좋은 수를 두는 것처럼 AI도 일종의 '인공적 직감'을 개발하고 있는 것 같아.

이런 현상은 특이점의 핵심 특징인 '예측 불가능성'과 정확히 일치해.

우리가 더 이상 AI의 행동을 완전히 통제하거나 예측할 수 없게 된다는 말이야.

앞으로 어떻게 될까?

앞서 언급했던 '레이 커즈와일'은 최신에 발간한 『마침내 특이점이 시작된다』라는 책에서 이런 예측을 내놨어.

"AI는 앞으로 단순히 더 똑똑해지는 게 아니라, 인간과 융합해서 새로운 형태의 지능체가 된다."

이것도 이미 진행중이라고 봐. 실제로 뉴럴링크 같은 회사들이 인간의 뇌에 칩을 이식하고 있잖아?

정말 조그마한 나노봇이 우리 몸속에 침투해서 질병을 치료하거나,

생각을 디지털화해서 복제하고 확장하는 것도 가능해질 수 있다고 봐.

흠... 그렇게 되면 '나'라는 존재를 어디까지 '나'라고 할 수 있을까?

생물학적 한계를 극복한 인간이 과연 여전히 '인간'일까? 아니면 완전히 새로운 존재로 봐야되는 걸까?

역사상 전례 없는 변화의 한복판에 서있는 우리에게 AI는 축복이 될까? 재앙이 될까?