딥 러닝, 공간을 접는 것과 창의성

딥 러닝의 작동 원리는 공간을 접는 것이다. 그리고 내 생각에 창의성 또한 공간을 접는 것이다. 이게 무슨 헛소리인가 싶을지도 모르지만 한번 들어보라.

설명을 위해 우선 딥 러닝의 작동 원리부터 짚고 넘어가야 한다. 이러쿵저러쿵 말은 많지만 아주 간단하게 설명해서 딥 러닝은 결국 $y=Ax+b$ 라는 간단한 함수를 기초로 한다. 그러나, 이런 형태의 함수는 아무리 많이 조합하더라도 오직 선형적인 문제밖에 풀지 못한다. 여기서 활성화 함수가 등장한다. 활성화 함수의 종류는 다양하지만, 결국 모든 활성화 함수는 $Ax+b$에 비선형성을 추가하는 역할을 한다. 예를 들어 ReLU함수는 그저 0 이하의 값은 0으로 만들고, 그 이상의 값은 그대로 통과시키는 간단한 방법으로 비선형성을 만들어 낸다. 식으로 표현하면 다음과 같다.

\[y = ReLU(Ax+b)\\\]

그런데, 이런 비선형성은 공간을 찌그러트리거나 접어버리는 역할을 하게 된다. 관련 전공이 아니라면 머리가 슬슬 아파질지도 모르겠다. 좀 더 쉽게 설명하자면 abs 함수를 예시로 들 수 있다. abs 함수는 어떤 숫자의 절댓값을 취할 때 사용한다. 예를 들어, -3을 이 함수에 집어넣으면 $|-3|$, 그러니까 3이 나오는 식이다. 이를 좌표의 관점에서 바라보면 어떻게 설명할 수 있을까? 원래 음수 쪽에 있던 좌표를 양수 쪽으로, 그러니까 숫자의 공간을 ‘접어버리는’ 역할을 한다고도 설명할 수 있을 것이다! 실제로 shadertoy 같은 데서 3차원 공간을 접어 프랙탈을 만들 때 이 ‘접는’ 함수를 흔하게 이용하고, 그 명칭도 ‘folding’이라 부른다. (참고)

그런데 이것이 창의성과 무슨 상관인가? 공간을 이리저리 찌그러트리고 접는 것이 창의성과 어떤 연관이 있단 말인가?

최근의 뇌과학 연구에 따르면 추상적 개념조차도 인간 뇌에 위치 정보로 저장된다고 한다. 장소 세포, 격자 세포가 그 역할을 담당하는데 이를 발견한 과학자들은 그 공로로 2014년 노벨상을 받기도 했다. 즉, 우리 뇌에 정보가 3차원 좌표로 저장되는 것이다. 놀랍게도 비슷한 개념을 딥 러닝에서 찾아볼 수 있다. 잠재 공간(Latent space)이다. 잠재 공간은 뉴럴 네트워크가 학습한 다차원 공간이다. 이 공간에서는 유사한 특징들이 서로 가깝게 위치하게 된다. 이러한 특성을 활용해 뉴럴 네트워크는 입력 데이터를 잘 분류하거나 생성하는 등의 다양한 작업을 수행할 수 있다.

그러나 여전히 풀리지 않는 의문이 있다. 이 모든 것이 창의성과 무슨 상관이란 말인가?

유명 스트리머 ‘침착맨’이 방송에서 ‘샴푸 국물’이라는 신박한 표현을 사용한 적 있었다. 대충 맥락을 설명하자면, 샤워할 때 머리에 샴푸를 하고 그 ‘국물’로 몸까지 덤으로 씻는다고 이야기하던 중 나온 표현이다.

‘샴푸’와 ‘국물’은 우리 머릿속 어딘가에 위칫값으로 저장되어 있을 것이다. 일반적인 사람의 머릿속 지도를 그린다고 상상해 보면, ‘샴푸’의 위치와 ‘국물’이 위치는 상당히 멀 것이라 쉽게 예상할 수 있다. 그런데, 공간을 ‘접어서’ 두 개념을 가깝게 위치시킴으로써 ‘샴푸 국물’이라는 해학적이면서도 창의적인 표현이 만들어지게 된다. 바로 이런 이유로 공간을 ‘접는’ 것이 창의성이라고 주장하는 것이다! 따라서 나는 인공지능이 창의적일 수 있다고 생각한다.

이렇게 ‘접는’ 것을 통한 창의성의 사례는 곳곳에서 발견할 수 있다. 아이폰을 생각해 보자. 많은 이들이 아이폰을 혁신의 대명사로 이야기하지만, 이미 존재하던 것의 조합이라고도 볼 수 있다. 그런데 그것이 한데 모여 아이폰이라는 새로운 물건을 만들어 냈다.

연구 분야에서도 비슷한 사례를 쉽게 찾을 수 있다. 최근 화두가 되는 Diffusion Model은 물리학에서 사용하던 랑주방 방정식(Langevin equation)을 이미지 생성 문제를 푸는 데 적용한 것이다. NeRF또한 기존에 존재하던 볼륨 렌더링에서 샘플링 함수를 뉴럴 네트워크로 교체한 것이라 볼 수 있겠다.

내가 대학원에서 연구하며 느낀 건 완전히 새로운 것은 거의 존재하지 않는다는 것이다. 대부분의 논문에는 Related Work 섹션이 포함된다. 누군가 말했듯 우리는 거인의 어깨 위에 올라와 있다. 그 어깨 위에서 무엇을 어떤 시각에서 바라보느냐에 따라 새로운 것을 발견할 기회를 가질 것이라 생각한다.