뇌과학 파다 보면 결국 드는 생각이 딥러닝이 그냥 뇌보다 우월한 구조라는 거임. 지금은 뇌가 구조적으로 좀 나은 점도 있긴 한데, 그것도 결국 시간 지나면 해결될 문제임. 진짜 끝까지 가면 뇌가 할 수 있는 걸 딥러닝이 못할 이유가 없음. 더 잘할 가능성이 높지.
사람들이 뇌랑 딥러닝이 뭔가 비슷하게 생겼다고는 말하는데, 사실 그게 핵심이 아님. “뉴런이 연결돼 있다~” 이 얘기 자꾸 하지만, 정작 중요한 단순한 원리를 잘 못 봄. 뭐가 진짜 지능인지에 대한 근본적인 이해가 빠져있음.
이 사람이 설명한 걸 정리하면 이럼
현실은 매 순간 어떤 상태를 갖고 있고, 그건 그냥 우주 전체 원자들의 위치랑 움직임임.
그 상태에서 다음 상태로 가는 법칙들이 있음. 이게 물리 법칙이고, 결국은 우주 전체를 돌리는 컴퓨터 같은 거임.
이걸 함수처럼 보면, 하나의 상태를 넣으면 다음 상태가 나오는 거임. 겁나 복잡하지만 어쨌든 함수는 함수임.
이 함수를 근사화하면 그게 '이해'가 되는 거고, 물리든 경제든 뭐든 다 마찬가지임.
그래서 지능이란 건 결국 이 거대한 함수를 얼마나 잘 흉내 내느냐, 이게 핵심임.
즉, 진짜 똑똑한 시스템은 함수 근사 잘하는 시스템이어야 함.
뇌랑 딥러닝 둘 다 하는 일이 이거임. 결국은 함수 근사장치임. 가중치, 편향 뭐 이런 것도 다 그걸 위한 도구일 뿐임.
함수가 어떤 영역에서는 특정한 패턴이나 구조를 갖는데, 그 구조를 잘 캐치하는 게 지능의 핵심인 거.
그래서 좋은 DL 아키텍처는 그 현실 구조에 맞는 편향을 가진 근사화기를 설계하는 거임. 예를 들어 attention은 언어 처리할 때 특히 유리하다는 게 이미 증명됐고.
여기서 중요한 건 두 가지임.
얼마나 다양한 함수를 근사화할 수 있는지
얼마나 효율적으로 그 함수를 흉내 낼 수 있게 구조를 짰는지
이런 시각으로 보면, 뇌든 DL이든 결국 같은 일 하는데 DL은 더 빠르고, 더 크고, 더 자유롭게 설계 가능한 상태로 가고 있음.
결정적으로, DL은 지식을 무한히 쌓을 수 있고, 계산력도 무한 확장이 가능하고, 학습 속도도 뇌보다 훨 빠름. 구조 바꾸는 것도 며칠이면 끝나는데 뇌는 수십 년 걸려야 겨우 좀 바뀜.
결론: 딥러닝이 아직 완전히 인간 수준은 아니지만, 가는 방향 보면 결국 뇌보다 더 잘하게 될 거임. 이건 그냥 시간 문제.