a16z says cheaper AI boosts demand for chips, power, data centers

a16z는 AI의 단가가 내려갈수록 사용량이 확대되어 총 컴퓨팅 수요가 늘어난다고 본다. 구형 GPU 임대료가 유지되는 현상은 이 수요 확대를 뒷받침한다. 핵심: AI 서비스 성장의 자본은 반도체, 전력, 냉각, 데이터센터로 흘러가며, 병목은 GPU를 넘어 인프라 전반으로 넓어진다.

AI 인프라 지출의 흐름

빅테크의 AI 지출은 GPU와 메모리를 넘어 전력망, 통신, 건설로 이전된다. 투자 규모와 더불어 그 지출이 공급망 각 단계의 매출로 전환되는 구조가 중요하다.

도입 이후: 성과 증명

S&P 500 기업의 69%가 실제 AI 운영을 보고했다. 정량적 결과를 제시한 기업은 29%, 지속적으로 추적하는 지표를 공개한 기업은 2%다. 도입 확대와 함께 반복 가능한 성과와 측정 가능한 지표의 축적이 필요하다.

비용 하락과 사용량 증가의 상호작용

단가 하락은 새로운 업무와 에이전트 활용을 열어 총 연산 수요를 키운다. 관전 포인트: 단가 하락 속도와 사용량 증가 속도의 충돌에서 총 수요가 어떻게 변하는지다. 구형 GPU 임대료가 유지되는 현상은 수요가 장비 세대 교체를 넘어 확장되고 있음을 보여준다.

소프트웨어 성장의 증명

상장 소프트웨어 표본에서 최근 12개월 매출이 20% 이상 성장한 기업은 30%다. 고객이 지불을 지속할 이유와 AI가 제품 가치를 명확히 높이는지의 증명이 필요하다.

넓어지는 AI 병목

GPU를 확보해도 전력, 메모리, 냉각, 통신 설비가 준비되어야 서비스 확장이 가능하다. 성능만큼 설치와 가동 조건이 중요하다. 병목의 초점은 칩에서 시설, 전력, 네트워킹으로 이동하고 있다.