인공지능의 발전은 대체로 소프트웨어의 문제로 다뤄진다. 더 나은 알고리즘, 더 많은 데이터, 더 큰 모델이 주요한 경쟁 요소다. 기업과 연구기관은 모델의 성능을 기준으로 우위를 비교하고, 인공지능 산업의 중심도 대체로 연산과 소프트웨어에 놓여 있다.

그러나 인공지능의 성능이 일정 수준 이상으로 높아진다면, 특히 AGI가 등장하고 그것이 스스로 개선된다면, 개별 모델 사이의 성능 차이는 지금보다 덜 중요해질 가능성이 있다.

재귀적 자기개선이 가능하다는 것은 인공지능이 자신의 구조, 학습 방식, 도구 사용법을 분석하고 수정할 수 있다는 뜻이다. 여러 시스템이 충분한 시간과 자원을 가진 상태에서 이러한 과정을 반복한다면, 서로 다른 출발점에서 시작하더라도 비슷한 해결책과 성능 영역으로 수렴할 수 있다. 마치 지금 여러 분야의 생성 모델이 트랜스포머 아키텍처로 수렴하고 있는 것처럼. 우수한 알고리즘은 빠르게 재발견되거나 복제될 것이고, 소프트웨어 수준의 차별성은 오래 유지되기 어렵다.

이 경우 지능 자체는 점차 희소한 자산이 아니게 된다. 오늘날 전기나 통신망이 개별 기업의 고유한 능력이라기보다 대부분의 경제 활동에 공통으로 사용되는 기반 시설인 것처럼, 일정 수준 이상의 인공지능도 보편적인 생산 요소가 될 수 있다.

하지만 지능이 보편화된다고 해서 권력까지 분산되는 것은 아니다. 지능을 실제 행동으로 전환하기 위해서는 여전히 물리적 자원이 필요하다. 인공지능은 연산 장치에서 실행되어야 하며, 연산 장치는 전력과 냉각 설비를 필요로 한다. 새로운 과학적 지식을 만들기 위해서는 실험 장비와 연구 시설이 필요하고, 물리적 상품을 생산하기 위해서는 공장과 원재료와 물류 체계가 필요하다. 현실 공간에서 행동하기 위해서는 로봇, 자동차, 드론, 센서와 같은 장치가 필요하다.

따라서 인공지능의 지적 능력이 서로 비슷한 수준에 도달하더라도, 그것이 사용할 수 있는 물리적 자원의 규모는 크게 다를 수 있다. 동일한 수준의 인공지능이라도 개인용 컴퓨터에서 작동하는 경우와 대규모 데이터센터, 생산 시설, 에너지 인프라에 연결된 경우의 실질적인 능력은 같지 않다. 그리고 이 차이는 인공지능 산업의 독점을 약화시키기보다 오히려 강화할 수 있다.

기존의 소프트웨어는 복제 비용이 낮다. 하나의 프로그램은 큰 비용 없이 여러 장치에 배포될 수 있다. 이 특성은 새로운 기업이나 개인이 기존 기업의 기술을 빠르게 따라잡을 가능성을 제공했다. 오픈소스 소프트웨어와 공개된 연구 결과는 이러한 흐름을 더욱 가속했다.

반면 반도체 생산 시설, 데이터센터, 발전소, 통신망, 로봇 생산 체계는 쉽게 복제되지 않는다. 이를 구축하기 위해서는 대규모 자본과 긴 시간이 필요하며, 토지, 원자재, 전문 인력, 행정적 허가도 확보해야 한다. 물리적 인프라는 소프트웨어보다 이동하기 어렵고, 한번 형성된 우위도 더 오래 지속된다.

재귀적 자기개선은 이러한 격차를 확대할 수 있다. 더 많은 연산 자원을 가진 주체는 더 많은 개선 실험을 수행할 수 있다. 개선된 인공지능은 반도체 설계, 에너지 효율, 생산 공정, 물류, 금융 의사결정을 다시 최적화할 수 있다. 이 과정에서 확보된 추가 자원은 다시 더 많은 연산과 실험에 사용된다.

그 결과 다음과 같은 순환이 형성될 수 있다. 더 많은 물리적 자원은 더 강한 인공지능 시스템을 가능하게 한다. 더 강한 인공지능 시스템은 자원의 획득과 운영을 더욱 효율적으로 만든다. 높아진 효율은 다시 자원의 집중을 촉진한다. 이 구조에서 핵심적인 자산은 특정한 모델이나 알고리즘이 아니다. 인공지능이 현실에 접근하기 위해 통과해야 하는 관문이 핵심 자산이 된다. 반도체 공급망, 전력망, 데이터센터, 센서 네트워크, 물류 시설, 공장, 연구 장비, 법적 허가와 같은 요소가 여기에 포함된다.

따라서 인공지능 시대의 독점은 이전과 다른 형태를 가질 수 있다. 과거의 독점은 주로 정보와 지식의 비대칭에 기반했다. 특정 기업만이 알고리즘이나 데이터를 보유하는 방식이었다. 그러나 지능과 지식이 널리 복제될 수 있게 되면, 독점의 중심은 정보에서 실행 능력으로 이동할 수 있다. 무엇을 알고 있는가보다, 알고 있는 것을 실제로 실행할 수 있는가가 중요해진다.

이 변화는 예술과 문화 영역에서도 나타날 수 있다. 이미지, 음악, 글, 영상과 같은 디지털 결과물은 점점 더 적은 비용으로 생산된다. 생산 가능한 이미지의 수가 증가할수록 개별 이미지의 희소성은 감소한다. 반면 실제 공간, 물질, 신체, 시간, 장소는 여전히 제한되어 있다. 전시 공간은 무한히 복제할 수 없고, 특정 장소에서 발생하는 사건은 동일하게 반복될 수 없다. 물질로 제작된 작품은 운송과 보관이 필요하며, 관객의 신체적 경험은 화면 속 재현과 같지 않다. 디지털 생산물이 풍부해질수록 이러한 물리적 조건은 오히려 더 분명한 차별 요소가 될 수 있다.

이것은 물리적 대상이 본질적으로 디지털 대상보다 우월하다는 뜻은 아니다. 중요한 것은 희소성의 위치가 이동한다는 점이다. 기존에는 복잡한 이미지를 만들 수 있는 기술과 능력이 희소했다. 앞으로는 이미지를 만드는 능력보다, 그것을 어떤 물질과 장소와 제도 속에 배치할 수 있는지가 더 희소해질 수 있다.

AGI 이후의 경제에서도 비슷한 변화가 일어날 가능성이 있다. 지적 능력이 충분히 저렴하고 널리 제공된다면, 차이는 지능 자체가 아니라 지능이 사용할 수 있는 자원에서 발생한다. 누가 더 좋은 답을 낼 수 있는가보다 누가 더 많은 전력과 장비를 사용할 수 있는가, 누가 생산과 유통을 통제하는가, 누가 현실에서 행동할 권한을 가지는가가 더 중요하다.

이 관점에서 AGI는 기존의 독점 구조를 해체하지 못한다. 오히려 지식과 판단의 비용을 낮추면서, 물리적 자원과 실행 권한의 집중을 더 명확하게 드러낼 수 있다. 지능이 희소할 때에는 지능을 가진 사람이 권력을 가진다. 지능이 보편화된 이후에는 그 지능에 자원과 신체와 권한을 연결할 수 있는 사람이 권력을 가진다.

따라서 인공지능 시대의 핵심 문제는 모델의 성능만이 아니다. 더 중요한 문제는 보편화된 지능이 누구의 인프라 위에서 작동하며, 누구의 목적을 위해 현실에 개입하는가이다. 지능이 풍부해질수록 물질은 사라지지 않는다. 오히려 물질은 지능이 현실이 되기 위해 반드시 통과해야 하는 조건으로 남는다. 그리고 그 조건을 통제하는 주체의 권력은 이전보다 더 커질 수 있다.