가트너(Gartner)의 최신 전망에 따르면 2026년 전 세계 AI 지출 규모는 2.59조 달러에 이를 것으로 예상된다. 이는 2025년 대비 47% 증가한 수치로, 실현될 경우 AI는 기업 역사상 가장 빠르게 성장한 기술 지출 항목이 된다. 이 지출은 실재하는 것이다. 이 지출이 만들어내는 인프라 확장도 실재하는 것이다. 엔비디아의 분기 매출 810억 달러, 마이크론의 2026년 HBM 생산 완판, 버지니아에서 싱가포르까지 이어지는 데이터센터 건설 파이프라인은 모두 기업 예산에서 AI 시스템으로 자본이 대규모로 흘러들어가고 있음을 보여주는 측정 가능한 증거다.
덜 알려졌지만 마찬가지로 실재하는 것은, 연간 2.59조 달러의 지출이 결국 그와 동등하거나 그 이상의 측정 가능한 수익을 만들어내야 할 때 발생하는 책임 공백이다. 5월 28일 발표된 액시오스(Axios)의 조사는 거버넌스가 부실한 AI 도입이 실제로 어떤 모습인지 보여주는 사례를 하나 짚어냈다. 이름은 밝혀지지 않았지만 대형 기업 고객으로 묘사된 한 회사가 사용량 통제나 비용 모니터링 체계를 갖추지 않은 채 단 한 달 만에 AI 서비스에 5억 달러를 지출한 것이다. 이 회사는 지출 한도를 설정하지 않았고, 청구서가 도착하기 전까지 그 누구도 소비 패턴을 점검하지 않았다. 30일 만에 5억 달러짜리 AI 청구서가 나왔다는 것은 스타트업의 파일럿 프로젝트가 손을 벗어난 수준이 아니다. 이는 대규모의 기업 거버넌스 실패이며, 초기의 AI 열풍이 본격적인 기업 예산 심사의 첫 사이클과 충돌하면서 수면 위로 드러나기 시작한 수많은 사례 중 하나일 뿐이다.
CFO의 문제
기업 재무 부서 내부의 역학 관계는 2025년 하반기부터 변화해 왔다. 대다수 대기업의 초기 AI 도입 결정은 기술 리더십, 즉 CTO와 CIO, AI 전략팀이 주도했으며 재무 부서의 검토는 상대적으로 제한적이었다. 속도를 우선해야 한다는 논리는 업종을 막론하고 일관됐다. 경쟁사가 AI를 더 빨리 도입하면 생산성과 비용 구조의 격차는 영구히 고착된다는 것이었다. 이런 프레이밍은 대형언어모델의 역량에 대한 전반적인 열기와 맞물려, IT 지출을 지배해온 통상적인 비용 대비 편익 심사 주기를 건너뛴 채 AI 지출을 용인하는 분위기를 만들었다.
2026년 2분기에 접어들며 그 분위기는 바뀌었다. 포레스터(Forrester) 리서치에 따르면 재무 심사가 강화되면서 기업들은 계획된 AI 지출의 25%를 2027년으로 미루고 있다. 가트너 설문조사에서는 기업 의사결정권자 중 자사의 AI 투자와 연결되는 구체적인 재무 성과를 짚어낼 수 있는 비율이 3분의 1에도 미치지 못했다. 개념검증(PoC) 단계로 시작해 실제 운영에 투입된 프로젝트들은 이제 지속 지원 여부를 평가받고 있으며, 그 평가 기준은 더욱 까다로워졌다. 실재하지만 산발적인 생산성 향상, 즉 직원들이 업무를 더 빨리 처리하지만 손익계산서에서 측정 가능한 수준은 아닌 경우는 이제 CFO의 분기 심사 대상에 오른 지출 항목을 정당화하기에 충분하지 않다.
우버의 최고운영책임자(COO)는 2026년 5월 애널리스트들에게 AI 비용이 “예상보다 정당화하기 어렵다”고 공개적으로 밝혔다. 이는 탄탄한 엔지니어링 자원과 정교한 비용 관리 문화를 갖춘 기술 선도 기업으로서는 상당히 의미심장한 발언이다. 우버는 대다수 기업보다 훨씬 엄밀하게 AI ROI를 평가할 수 있는 인프라를 갖추고 있다. 그럼에도 AI 지출과 재무 성과를 연결 짓는 데 어려움을 겪고 있다는 것은 분석 역량 부족의 문제가 아니라, 수천 명의 직원에게 분산돼 있고 각자가 예산 항목으로 드러나지 않을 만큼 작은 시간을 절약하는 AI 강화 업무 흐름의 가치를 측정하는 일이 실제로 얼마나 어려운지를 보여주는 것이다.
5억 달러짜리 거버넌스 실패
액시오스 조사의 5억 달러라는 수치는 규모 면에서는 이례적이지만 성격 면에서는 그렇지 않다. 사용량 거버넌스 없이 이뤄지는 기업 AI 도입은 청구서가 500만 달러든 5억 달러든 같은 메커니즘으로 통제 불능의 비용을 만들어낸다. 대다수 기업 AI 계약은 사용량 기반 과금 방식이다. API 호출이나 토큰을 더 많이 소비할수록 비용은 올라간다. 연간 비용이 사용량과 무관하게 고정되는 전통적인 소프트웨어 라이선스와 달리, 사용량 기반 AI 요금제는 직원 도입률과 월간 청구서 사이에 직접적인 관계를 만든다. 도입이 예상치 못하게 가속화되면 비용도 함께 가속화된다.
5억 달러짜리 AI 청구서를 만들어내는 거버넌스 실패가 발생하려면 몇 가지 조건이 동시에 갖춰져야 한다. 확정된 지출 한도 없는 사용량 기반 과금, 조직의 계획 가정을 뛰어넘는 도입률, 이상 소비 패턴이 한 달치로 쌓이기 전에 이를 감지할 모니터링 도구의 부재, 그리고 결정적으로 다른 클라우드 지출을 통제하는 표준 안전장치를 도입하지 않은 조달·재무 프로세스다. AWS와 애저, 구글 클라우드에 대한 기업의 클라우드 지출은 지난 10년간 비슷한 공포담을 여러 차례 만들어냈다. 클라우드 비용 관리가 성숙한 관행으로 자리 잡은 것은, 다름 아닌 통제되지 않은 소비의 고통이 기업들에게 확정 계약과 모니터링 도구가 선택 사항이 아니라는 것을 가르쳐줬기 때문이다.
AI 지출과의 차이점은, 모든 직원이 AI 도구를 써야 하고 AI에 대한 저항은 경쟁상 위험이라는 도입 서사가 통제되지 않은 도입에 맞서는 자연스러운 견제력을 오히려 적극적으로 억눌렀다는 데 있다. 2024년과 2025년 초에 비용 우려를 제기했던 재무팀은 흔히 전환을 가로막는 걸림돌로 낙인찍혔다. 5억 달러라는 결과는 도입 속도를 위해 비용에 대한 경계심이 일시적으로 뒷전으로 밀려난 조직 문화가 낳은 결과이기도 하다. 그리고 그 문화는 이제 역전되고 있다.
수익이 나타나는 곳과 나타나지 않는 곳
측정 가능한 AI ROI를 입증하고 있는 기업들은 특정 업무 영역에 집중돼 있다. 사기 탐지와 리스크 모델링에 AI를 활용하는 금융 서비스 기업, 경로 최적화와 수요 예측에 AI를 활용하는 물류 기업, 1차 고객 응대를 AI 에이전트로 대체하거나 보강하는 고객서비스 부서, 반복적인 코드 생성과 디버깅에 걸리는 시간을 줄이기 위해 AI 코딩 어시스턴트를 사용하는 소프트웨어 개발팀 등이다.
이런 활용 사례들에는 공통된 구조가 있다. 결과물이 정량화 가능하고, 비교 대상(AI가 없었을 때의 사기 손실, 경로 비효율 비용, 상담 티켓 건수, 개발자 소요 시간)이 측정 가능하며, AI가 개입한 부분이 그 기여도를 구분해낼 수 있을 만큼 명확히 분리돼 있다는 점이다. JPMorgan Chase는 AI 투자를 실험적인 R&D 단계에서 벗어나 198억 달러 규모의 기술 예산과 2,000명의 전담 AI 인력을 갖춘 핵심 인프라로 전환시켰다. 이는 상당한 자본 투입에도 도입이 지지부진했던 마이크로소프트 코파일럿의 도입 부진과 대비된다. JPMorgan의 이런 투자 규모는 측정이 업의 본질에 내재된 금융 서비스 영역에서 정량화 가능한 수익에 대한 진정한 자신감을 보여준다.
ROI를 입증하기 더 어려운 영역은 초기 AI 도입 열풍에서 가장 큰 기대를 받았던 지식노동 분야다. 이메일 작성, 회의록 요약, 문서 작성, 리서치 종합, 이 모든 업무는 AI의 도움으로 실제로 더 빨라진다. 개인 단위의 생산성 향상은 실재한다. 문제는 그것을 변환하는 과정에 있다. 업무를 20% 더 빨리 처리하는 지식노동자가 자동으로 매출로 잡히는 20% 더 많은 산출물을 만들어내는 것은 아니며, 조직이 효율성 향상에 맞춰 인력을 능동적으로 관리하지 않는 한 20%의 생산성 향상이 자동으로 20%의 인력 감축으로 이어지지도 않는다.
인프라와 애플리케이션 사이의 분화
클라우드플레어, 코인베이스, 업워크의 구조적 정리해고는 AI 생산성 향상을 재무적 성과로 포착하는 하나의 모델을 보여준다. AI가 그 기능을 대체할 수 있는 직군의 인력을 줄이고, 그 비용 절감분을 수익으로 계산하는 방식이다. 이 모델은 불편하지만 재무적으로는 명료하다. 더 흔한 모델, 즉 인력을 유지하면서 생산성을 개선하고 그 가치를 향상된 산출물의 품질이나 더 빠른 납기로 포착하는 방식은 손익계산서에 반영하기 어렵고, AI 도구 자체가 자체적인 비용 항목을 만들어내는 예산 심사에서 방어하기가 점점 더 힘들어지고 있다.
2026년 AI 지출에서 가장 뚜렷한 재무적 그림은 공급 측과 수요 측을 분리해서 봐야 드러난다. 공급 측, 즉 엔비디아와 마이크론, TSMC, 그리고 하이퍼스케일러 데이터센터 운영사들 쪽에서는 수익이 측정 가능하고 규모도 크다. AI 인프라 지출은 컴퓨팅과 메모리, 커넥티비티를 공급하는 기업들에게 그대로 AI 인프라 매출로 이어지고 있다. 기업들이 지출하는 2.59조 달러는 분기 실적과 애널리스트 전망에 고스란히 반영되는 방식으로 이들 기업으로 흘러들어간다.
수요 측, 즉 그 2.59조 달러를 자사 운영에 AI를 도입하는 데 쓰는 기업들 쪽에서는 재무적 그림이 훨씬 균일하지 않다. 에이전틱 AI가 생성형 AI보다 1,000% 더 많은 컴퓨팅을 필요로 한다는 젠슨 황의 주장은 수요 측이 여전히 초기 단계에 있음을 시사한다. 가장 컴퓨팅 집약적인 AI 애플리케이션이 아직 대규모로 배치되지 않았다면, ROI 문제는 부분적으로는 타이밍의 문제일 수 있다. 복잡한 비즈니스 프로세스를 완전히 자동화하는 에이전틱 워크플로우가 만들어낼 수익은 측정 가능하지만, 아직 나타나지 않은 이유는 그런 워크플로우가 아직 구축되고 있는 중이기 때문이다.
이런 프레이밍이 가장 설득력 있는 낙관적 해석이다. 2026년의 CFO 심사는 시장이 마땅히 해야 할 일을 하고 있는 것이다. 초기 열기에 힘입은 투자 사이클이 한 바퀴를 돌고 갱신 결정에 입증된 가치가 필요한 시점에서 지출을 정당화하도록 요구하는 것이다. 사기 탐지, 경로 최적화, 고객서비스, 소프트웨어 개발에서 가치를 입증할 수 있는 기업들은 계속 투자할 것이다. 그러지 못하는 기업들은 포레스터가 측정하고 있는 바로 그 지출 연기에 직면하게 될 것이다. 이는 AI에게 위기가 아니다. 기술 투자 사이클이 성숙해가는 정상적인 과정일 뿐이다.
다음에 올 것
2026년 하반기 기업 AI 지출은 세 가지 압력이 동시에 작용하며 형성될 것이다. 첫째, CFO 책임 추궁 사이클이다. 2024년과 2025년에 내려진 지출 결정은 이제 갱신 심사에 직면했고, 지속을 위한 문턱은 높아졌다. 둘째, 에이전틱 AI의 역량 확장이다. 인간 노동자를 보조하는 대신 다단계 비즈니스 프로세스를 자율적으로 완수하는 시스템은 다른 ROI 모델을 나타낸다. 비교 대상이 한계 생산성 개선이 아니라 정규직 인건비 전체가 되는 모델이다. 셋째, AI 조달의 거버넌스 성숙이다. 5억 달러짜리 이례적 사례는 2012~2015년의 AWS 청구서 공포담이 클라우드 비용 관리를 하나의 규율로 만들어낸 것처럼, 기업 AI 비용 관리 관행의 한 세대를 만들어낼 것이다.
잠시 멈춰 평가하고 있는 기업들이 AI를 포기하는 것은 아니다. 그들은 모든 대형 기술 투자에 대해 기업들이 결국 하게 되는 일을 하고 있을 뿐이다. 수익이 비용을 정당화하는지 묻고 그에 맞춰 조정하는 것이다. 포레스터의 25% 지출 연기 수치는 신뢰 상실의 투표가 아니다. 이는 책임성에 대한 투표다. AI 산업의 공급 측이 분기 실적으로 계속 입증해온 것과 같은 책임성이며, 이제 수요 측도 그에 맞춰야 하는 상황이다.
5억 달러짜리 고객사 이야기는 2026년 내내 기업 이사회에서 AI 거버넌스에도 클라우드 거버넌스와 같은 엄격함이 필요하다는 근거로 인용될 것이다. 그 인용이 만들어낼 결과는 AI 지출 감소가 아니다. 전체적으로는 정당화하기 더 어렵지만 투입한 달러당 측정 가능하게 더 나은 수익을 만들어내는 AI 지출이다. 컴퓨팅을 판매하는 인프라 공급업체들에게 이 구분은 상대적으로 덜 중요하다. 반면 기업 직원들이 사용하는 도구를 판매하는 AI 애플리케이션 계층 기업들에게 이 책임성 전환은 자사 제품이 구매된 목적에 맞는 가치를 실제로 만들어내는지에 대한 첫 번째 본격적인 시험대다.
ROI 질문보다 먼저 와야 할 질문
측정 문제처럼 보이지만 사실은 정의 문제인 특정한 혼란이 있다. 기업 리더들이 AI 투자의 ROI를 계산할 수 없다고 말할 때, 그들은 흔히 더 어려운 실패의 증상을 묘사하고 있는 것이다. 즉 AI가 무엇을 하도록 되어 있었는지를 그것이 실제로 그 일을 해냈는지 알 수 있을 만큼 정밀하게 정의하지 않았다는 것이다. ROI는 비율이다. 분자는 창출된 가치다. 시작하기 전에 가치가 어떤 모습일지, 구체적이고 측정 가능하며 반사실적 상황과 비교 추적할 수 있는 형태로 말할 수 없다면, ROI 계산은 회계상의 복잡함 때문이 아니라 애초에 구조적으로 불가능한 것이다.
이것은 AI만의 문제가 아니다. 초기 CRM 도입과 ERP 구축, 클라우드 마이그레이션을 괴롭혔던 것과 같은 문제다. 모든 기술 물결은 이 문제의 변주를 만들어낸다. 리더십이 가치를 창출한다는 말을 듣고 기술을 구매하고, 도입은 결과 지표가 아니라 배치 지표로 측정되며, 조직이 실제로 가치를 드러낼 만큼 업무 방식을 바꾸기도 전에 ROI 심사가 도착하는 것이다. AI는 이 실패 경로를 더 높은 비용과 더 짧은 시간 안에 그대로 밟고 있다. 연간 2.59조 달러의 AI 지출 가운데 상당 부분은 좌석 수 제공, 모델 통합, 자동화 활성화라는 배치 지표를 실제로 그 배치가 어떤 가치를 만들도록 설계됐는지 정의하는 더 어려운 작업 없이 가치 창출의 증거로 취급한 사례로 채워져 있다.
이를 가장 뚜렷이 보여주는 신호는 거버넌스 실패 패턴이다. 도구가 실제 업무 구조에 맞지 않아 직원들이 이를 우회하는데도 기업들이 5억 달러를 AI 도구에 지출하는 것이다. 도구를 우회하는 직원들은 까다롭게 구는 것이 아니다. 그들은 최적화 문제를 올바르게 풀고 있는 것이다. 도구가 이전 방식보다 더 나은 결과를 만들어내지 못한다면 합리적인 대응은 이전 방식을 계속 쓰는 것이다. ROI 질문보다 먼저 와야 할 질문은 이것이다. 이 도구가 우리가 이전에 하던 방식보다 구체적으로 어떤 업무를 더 잘하며, 우리는 그것을 어떻게 알 수 있는가. 조달 전에 이 질문에 답한 조직, 즉 워크플로우를 매핑하고 병목을 식별하고 성공 지표를 정의한 조직이 측정 가능한 수익을 보여주는 기업 AI 도입 분석에 등장하는 기업들이다. 그 단계를 건너뛴 조직들이 모두를 불안하게 만드는 집계 ROI 데이터를 만들어내고 있다.
집계 수치가 알려주지 않는 것
2.59조 달러라는 수치에는 통계학자들이 기저율 무시라고 부르는 특정한 문제가 있다. 전 세계 AI 지출이 전년 대비 47% 성장했다는 말을 들으면 사람들은 자신감 있는 추론을 떠올린다. AI는 작동하고 있다, 따라서 AI 지출은 정당하다, 따라서 더 많은 AI 지출은 합리적이다. 이 추론은 논리적으로 느껴지지만 실제로 중요한 단계를 건너뛴다. 그 2.59조 달러 중 실제로 측정된 수익을 만들어낸 비중은 얼마이며, 그 분포는 어떤 모습인가.
확보 가능한 증거를 바탕으로 한 정직한 답은, 우리가 정확히 알지 못한다는 것이다. 가트너 설문조사에서 나온 발견, 즉 의사결정권자 중 구체적인 재무 성과를 짚어낼 수 있는 비율이 3분의 1에도 못 미친다는 것은 중요한 사실을 알려준다. ROI 계산의 분모는 크고, 분자는 대부분 집계되지 않았다는 것이다. 그러나 이 발견 자체도 자기보고식 인식에 대한 설문조사이며, 그 나름의 편향을 안고 있다. 지출을 승인한 의사결정권자들은 마이너스 수익을 인정하기보다 불확실성을 보고할 유인이 있다. 포레스터의 지연 수치는 계획된 지출의 25%가 미뤄지고 있다는 것을 알려주지만, 진행 중인 75%가 더 나은 근거를 갖고 있는지 아니면 단순히 더 큰 조직적 관성을 갖고 있는지는 알려주지 않는다.
2026년 기업 AI ROI에 대한 균형 잡힌 사고는 집계 수치가 하나로 뭉뚱그려 놓은 실질적으로 다른 세 범주를 분리하는 데서 시작한다. 첫째, 정량화되고 문서화된 수익을 만들어낸 AI 지출이다. 금융 서비스의 사기 탐지, 물류의 수요 예측, 완료 시간으로 측정되는 특정 소프트웨어 개발 생산성 향상 등이다. 이 사례들은 실재하며 늘어나고 있다. 둘째, 수익이 그럴듯하고 방향성은 긍정적이지만 재무적 책임에 필요한 정밀도로 측정되지 않은 AI 지출이다. 지식노동 보조, 회의록 요약, 리서치 지원 등이다. 셋째, 배치 지표가 가치 창출의 대용물로 취급됐고 실제 수익은 한 번도 평가된 적 없는 AI 지출이다. 포레스터의 지연 데이터는 세 번째 범주가 상당한 규모임을 시사한다.
2024년과 2025년 초 시장이 저지른 실수는 집계 지출 수치가 집계 논지를 검증한다고 가정한 것이었다. 그것은 검증하지 않았다. 그것이 검증한 것은 기업들이 AI가 수익을 만들어낼 것이라는 데 베팅할 의향이 있었다는 것뿐이다. 2026년의 책임 추궁 사이클은 그 베팅이 잘 조정된 것이었는지를 시험하고 있다. 이 시험을 통과하고 AI 예산을 지킬 기업들은 CFO가 묻기 전에 범주를 구분해둔 기업들일 것이다.
책임 분산 문제
조직이 배치하는 기술을 그 조직이 추적할 수 있는 책임 구조를 구축하는 속도보다 더 빨리 배치할 때마다 나타나는 패턴이 있으며, 2026년 기업 AI 지출은 그 깔끔한 사례 연구다. 포춘 500대 기업 어디에서도 AI ROI를 측정하지 않기로 정책 차원에서 결정한 곳은 없다. 대신 개별적으로는 각각 합리적인 수백 건의 작은 결정들, 벤더 데모가 인상적이었기 때문에 파일럿을 승인한 부서장, 경쟁사도 지출하고 있었기 때문에 예산 항목을 승인한 CFO, 일정대로 배치됐다는 이유로 성공을 선언한 프로젝트 리더가 쌓여 그 어떤 단일 행위자도 정말 중요한 단 하나의 질문, 즉 이것이 실제로 효과가 있었는가를 물을 수 있는 위치에 있지 않은 시스템을 만들어냈다. 각 의사결정권자의 유인은 국지적으로 합리적이었다. 2025년 AI에 아니라고 말하는 것은 예라고 답하고 18개월 뒤 모호한 결과를 내는 것보다 더 큰 경력상 위험을 안고 있었기 때문에 파일럿은 승인됐다.
이것은 나쁜 행위자나 무능에 대한 이야기가 아니다. 분산된 의사결정 권한이 어떻게 분산된 책임을 만들어내는지에 대한 이야기이며, 이는 기업 거버넌스가 잡아내도록 설계된 실패 양식과는 구조적으로 다른 실패 양식이다. 전통적인 자본 배분 규율은 결과를 소유하는 단일 승인권자를 전제로 한다. 2024~2026년 물결의 AI 조달에는 흔히 10여 개 부서에 걸쳐 10여 명의 승인권자가 있었고, 각자가 작고 방어 가능한 베팅을 했지만 그 누구도 포트폴리오 전체에 책임을 지지 않았다. 책임 분산의 교과서적 사례다. 이 글이 서두에서 다룬 5억 달러짜리 거버넌스 실패는 하나의 나쁜 결정이 아니다. 이는 전체를 볼 수 있는 위치에 있어본 적 없는 사람들이 내린, 그런대로 괜찮은 수많은 작은 결정들의 합이다. 이를 바로잡으려면 집계 수치의 소유권을 누군가에게 부여해야 한다. 기업 AI 자본 배분을 책임지는 단일 소유주, AI가 모든 부서를 자체 조달 사무소로 만들기 전에 자본 예산 편성이 작동하던 방식이 필요하다. 감정에 대한 설문조사를 하나 더 쓰는 것이 아니라.
