The economics of superintelligence

Leaders | Humanity’s next step

The economics of superintelligence

If Silicon Valley’s predictions are even close to being accurate, expect unprecedented upheaval

 

Jul 24th 2025

 

대부분의 역사에서 가장 안전한 예측은 현재와 같은 상황이 계속될 것이라는 것이었습니다. 하지만 때로는 미래를 예측할 수 없을 때도 있습니다. 실리콘밸리의 기술 전문가들은 불과 몇 년 안에 인공지능(AI)이 모든 인지 작업에서 평균적인 인간보다 더 나은 능력을 갖게 될 것이라며 인류가 그런 순간에 다가서고 있다고 말합니다. 그들의 주장이 옳을 확률이 높다는 것을 알기 위해서는 생각해 볼 필요가 있습니다. 이 주장이 현실화된다면 그 결과는 세계 경제 역사상 그 어떤 것과도 비교할 수 없을 정도로 엄청날 것입니다.

거의 10년 전의 획기적인 발전 이후, AI의 능력은 예측을 뛰어넘는 놀라운 성과를 거듭해왔습니다. 올해 국제 수학 올림피아드에서는 전문가들이 예상했던 2021년보다 18년이나 빨리 OpenAI와 Google DeepMind의 대규모 언어 모델이 금메달을 획득했습니다. 승자가 모든 것을 차지하려는 기술 기업과 2위를 차지할 경우 시스템적 패배를 두려워하는 중국과 미국 간의 군비 경쟁으로 인해 이 모델들은 점점 더 커지고 있습니다. 2027년에는 오늘날 가장 인기 있는 챗봇인 GPT-4를 구축한 컴퓨팅 자원의 1,000배를 사용하여 모델을 훈련시킬 수 있게 될 것입니다.

 

2030년 또는 2032년 AI의 힘은 무엇을 의미할까요? 이번 주 두 개의 브리핑 중 하나에서 설명했듯이, 많은 사람들은 AI를 이용한 테러리스트가 수십억 명을 죽이는 생물무기를 만들거나 '잘못 조정된' AI가 목줄을 풀고 인류를 능가하는 지옥 같은 상황을 두려워합니다. 이러한 꼬리 위험이 왜 그렇게 많은 관심을 받는지 쉽게 알 수 있습니다. 하지만 두 번째 브리핑에서 설명한 것처럼, 종말이 아닌 인공지능의 즉각적이고 가능성 있고 예측 가능한, 그리고 그에 못지않게 놀라운 영향에 대한 생각에 사람들이 몰려들고 있습니다.

1700년 이전까지 세계 경제는 한 세기당 평균 8%씩 성장했습니다. 다음에 일어날 일을 예측한 사람은 정신 나간 사람처럼 보였을 것입니다. 이후 300년 동안 산업혁명이 일어나면서 한 세기당 평균 350%의 성장률을 기록했습니다. 그 결과 사망률은 낮아지고 출산율은 높아졌습니다. 더 많은 인구는 더 많은 아이디어를 생산했고, 더 빠른 확장을 이끌었습니다. 하지만 인간의 재능을 더해야 했기 때문에 그 순환은 더디게 진행되었습니다. 결국 부의 증가로 인해 사람들은 아이를 적게 낳게 되었습니다. 이로 인해 생활 수준이 향상되어 연간 약 2%의 꾸준한 속도로 성장했습니다.

실리콘으로 생계 유지
AI는 이러한 인구학적 제약에 직면하지 않습니다. 기술자들은 이 기술이 발견의 속도를 빠르게 앞당길 것이라고 약속합니다. OpenAI의 최고 경영자인 샘 알트먼은 내년에 AI가 "새로운 인사이트"를 창출할 수 있을 것으로 예상합니다. AI는 이미 더 나은 AI 모델을 프로그래밍하는 데 도움을 주고 있습니다. 일부에서는 2028년이 되면 AI가 스스로 개선을 감독하게 될 것이라고 말합니다.

따라서 경제 성장의 두 번째 폭발적인 성장 가능성도 있습니다. 컴퓨팅 파워가 인간의 개입 없이도 기술 발전을 가져오고, 그 성과가 더 강력한 기계를 만드는 데 재투자된다면 전례 없는 속도로 부를 축적할 수 있습니다. 경제학자들은 아이디어의 발견을 자동화하는 끊임없는 수학적 논리에 오랫동안 주목해 왔습니다. 낙관적인 싱크탱크인 Epoch AI의 최근 전망에 따르면, AI가 업무의 30%를 수행할 수 있게 되면 연간 성장률이 20%를 초과할 것이라고 합니다.

 

엘론 머스크를 비롯한 진정한 신봉자들은 스스로 발전하는 AI가 초지능을 만들어낼 것이라고 믿습니다. 인류는 최고의 로봇, 로켓, 원자로를 만드는 것을 포함해 모든 아이디어에 접근할 수 있게 될 것입니다. 에너지에 대한 접근성과 인간의 수명은 더 이상 제한을 받지 않을 것입니다. 경제에 대한 유일한 제약은 물리 법칙뿐입니다.

 

인공지능의 놀라운 효과를 떠올리기 위해 그렇게 극단적인 상황까지 갈 필요는 없습니다. 사고 실험으로 인간 수준의 지능을 향한 점진적인 단계를 생각해 보십시오. 노동 시장에서 컴퓨팅 파워를 사용하는 데 드는 비용은 작업 수행에 대한 임금을 제한할 것입니다. 왜 디지털 경쟁자보다 더 많은 임금을 지불해야 할까요? 그러나 자동화가 불가능하고 AI를 직접적으로 보완할 수 있는 기술을 가진 소수의 슈퍼스타들은 막대한 수익을 누리게 될 것이며, 그들보다 더 잘하는 유일한 사람들은 아마도 경제 생산에서 점점 더 많은 부분을 차지하고 있는 AI 관련 자본의 소유주들이 될 것입니다.

 

다른 모든 사람들은 AI의 능력 격차와 새로운 부자들의 소비에 적응해야 할 것입니다. 자동화와 노동력 공급에 병목 현상이 발생하는 곳이라면 어디든 임금이 급격히 상승할 수 있습니다. "비용 질병"으로 알려진 이러한 효과는 경제가 완전히 변화하더라도 측정된 GDP의 폭발적인 증가를 제한할 정도로 강력할 수 있습니다.

 

새로운 풍요와 부족의 패턴이 가격에 반영될 것입니다. 예를 들어 완전 자동화된 공장에서 생산되는 상품이나 디지털 엔터테인먼트 등 AI가 생산에 도움을 줄 수 있는 모든 것은 그 가치가 하락할 것입니다. AI에 일자리를 잃는 것이 두렵다면, 적어도 그런 일들이 많이 생길 것이라고 기대할 수 있습니다. 여전히 사람이 필요한 곳에는 비용 질병이 발생할 수 있습니다. 육체 노동으로 전환한 지식 근로자들은 지금보다 더 적은 보육비나 식당 식사비를 감당할 수 있을지도 모릅니다. 그리고 인간은 결국 땅과 에너지를 놓고 인공지능과 경쟁하게 될지도 모릅니다.

 

이러한 경제적 혼란은 금융 시장에도 반영될 것입니다. 승자독식 경쟁에서 어떤 기업이 이기고 지는지가 분명해지면서 주가도 큰 폭으로 변동할 수 있습니다. 더 많은 AI 전력을 생산하고 인프라 및 공장 재고가 경제 성장에 보조를 맞추기 위해 투자에 대한 욕구가 커질 것입니다. 동시에 사람들, 특히 저축을 가장 많이 하는 부유층의 소득이 크게 증가할 것으로 예상되면서 미래를 위해 저축하려는 욕구가 무너질 수 있습니다.

 

따라서 사람들이 투자를 위해 자본을 포기하도록 설득하려면 폭발적인 성장에도 불구하고 장기 자산 가격을 하락시킬 만큼 높은 이자율이 필요합니다. 학자들마다 의견이 다르지만 일부 모델에서는 금리가 성장률에 따라 1 대 1 또는 그 이상으로 상승합니다. 폭발적인 시나리오에서는 20~30%의 이자율로 부채를 재융자해야 할 수도 있습니다. 소득이 빠르게 증가하던 채무자들도 어려움을 겪을 수 있으며, 소득이 폭주하는 성장에 발맞추지 못한 채무자들은 타격을 입을 것입니다. 인공지능 붐을 활용할 수 없거나 활용하지 않으려는 국가는 자본 도피에 직면할 수 있습니다. 또한 사람들이 기대에 부풀어 있는 자산에 투자하고 중앙은행이 금리를 충분히 빠르게 인상하지 않아 인플레이션이 발생할 수 있기 때문에 거시경제가 불안정해질 수 있습니다.

 

어지러운 사고 실험입니다. 인류는 대처할 수 있을까요? 이전에도 성장은 가속화되었지만 산업혁명 시기에는 대중 민주주의가 없었고, 역사상 가장 유명한 기계 혐오자인 러다이트는 투표권을 갖지 못했습니다. 평균 임금이 급증하더라도 불평등이 심해지면 재분배에 대한 요구로 이어질 수 있습니다. 또한 국가는 국민을 감시하고 조작할 수 있는 더 강력한 도구를 갖게 될 것입니다. 따라서 정치는 불안정해질 것입니다. 정부는 세금 기반부터 교육, 시민권 보호에 이르기까지 모든 것을 다시 생각해야 할 것입니다.

 

그럼에도 불구하고 초지능의 부상은 경이로움을 불러일으킬 것입니다. 앤트로픽의 대표인 다리오 아모데이는 이번 주 The Economist와의 인터뷰에서 AI가 한때 불치병 치료에 도움이 될 것이라고 믿는다고 말했습니다. 또 다른 가속화가 온다면 그것은 사람들이 혼란을 받아들였기 때문에 가능해진 긴 기적의 연속이라고 볼 수 있습니다. 인류는 자신의 지능을 뛰어넘을 수 있습니다. 여전히 지혜가 필요할 것입니다. ■