아마존이 쌓아 둔 엔비디아 다크 GPU, AI 거품과 전력 부족 논쟁

발표자는 전력 부족 때문에 켜지 못하는 GPU가 창고에 쌓이는 현상을 '다크 GPU'로 부르며, 이것이 AI 붐의 과잉 투자를 보여 준다고 주장합니다. 아마존의 대량 구매, 오라클의 전력 지연 사례, 자금 압박과 해고까지 연결해 AI 거품에 대한 비판을 펼칩니다.

⏱ 00:00발표자는 AI 붐 속에서 아직 가동되지 않은 채 보관되는 GPU를 '다크 GPU'라고 부르며 이야기를 시작합니다. 그는 이 문제가 여러 달 동안 자신이 지적해 온 AI 광풍의 모순을 잘 보여 준다고 말합니다.

그는 이 현상이 단순한 기술적 문제가 아니라 시장 전체의 판단과 연결되어 있다고 강조합니다.

⏱ 00:39발표자는 마이크로소프트 CEO 사티아 나델라가 전원을 연결할 수 없는 GPU를 받고 있다고 인터뷰에서 말했던 내용을 다시 꺼냅니다. 미국의 전력 생산 설비 확충이 뒤처져 있다는 점도 함께 언급되었습니다.

이어서 팟캐스트에서 데이비드 삭스가 AI 붐에는 다크 GPU가 없다고 주장한 장면을 비판합니다. 발표자는 나델라의 발언과 정면으로 어긋난다고 보고, 자신에게 맞지 않는 사실을 무시하는 태도라고 평가합니다.

⏱ 03:52발표자는 한편에서는 전력이 부족해 하드웨어를 감당하지 못한다는 이야기가 나오고, 다른 한편에서는 출하된 하드웨어가 전혀 낭비되지 않는다는 이야기가 나온다고 지적합니다. 두 주장은 동시에 참일 수 없으므로 둘 중 하나는 틀렸다는 것이 그의 논지입니다.

또 AI 수요가 부족하다는 시각과 컴퓨팅 자원이 모자란다는 시각이 엇갈리는데, 실제 사용처를 보면 생각이 달라질 것이라고 말합니다. 구글이 AI 기능을 강제로 노출해 검색 수익이 줄고 있다는 사례도 들며 수요의 실체를 의심합니다.

⏱ 06:38발표자는 AWS가 매달 수십억 달러 규모의 엔비디아 GPU 랙을 받아 창고에 쌓아 두고 있다는 보도를 인용합니다. 칩은 빨리 살 수 있지만 전력은 그렇지 않다는 점이 핵심이라고 설명합니다.

그는 데이터센터를 전력망에 연결하는 데 수년이 걸릴 수 있고, 일정이 몇 달씩 밀리는 일이 흔하다고 말합니다. 오라클이 전력망 연결 지연을 불가항력으로 내세워 데이터센터 이용료 지급을 피하려 했던 사례도 함께 소개합니다. 발표자는 이것이 천재지변이 아니라 단순한 계획 차질이라고 봅니다.

⏱ 13:56발표자는 데이터센터가 완공될 시점을 알고 있다면 장비를 미리 설치해 두고 전력이 연결될 때까지 기본적인 온도 관리만 하면 되지 않느냐고 묻습니다. 고가의 서버를 중간 시설로 옮기는 것은 이사 트럭 사고처럼 위험하고 비용이 드는 일이라는 비유를 듭니다.

그러면서 아마존 대변인이 완성된 랙을 창고에 보관하는 방식을 '최상의 비즈니스 관행'이라고 옹호한 것을 비꼽니다. 발표자는 그런 관행이 문서화되어 있는지 되묻고, 실제로는 모든 기업이 같은 방식으로 하드웨어를 쌓아 두는 경쟁을 벌이는 모습이 AI 거품의 정점처럼 보인다고 말합니다.

⏱ 19:22발표자는 기업의 자금은 한정되어 있어서 데이터센터 투자와 인건비 사이에서 선택해야 한다고 설명합니다. 오라클이 주식 매각과 부채 조달로 자금을 마련하려다 어려움을 겪고, 대규모 감원까지 단행한 사례를 들었습니다.

그는 직원을 해고해 서버 랙을 사들이는 구조가 과연 정상적인 경영인지 묻습니다. 그러면서 IT 부서가 재해 복구 같은 필수 인프라 예산을 얻기 위해 애써야 하는 현실과, 경영진이 AI 도입을 위해 큰돈을 쉽게 내놓는 현실을 대비시킵니다.

⏱ 23:46발표자는 AI 열풍이 경영진의 판단을 흐리게 만든다고 비판합니다. 과거 IT 부서가 비용 발생 부서로 여겨지던 문제를 언급하면서, 지금은 정작 필요한 인프라보다 AI에 예산이 몰리는 역설이 생겼다고 봅니다.

그는 IT 종사자들이 시스템을 유지하기 위해 하드웨어를 얻으려고 애쓰는 현실을 짚으며 영상을 마무리합니다. 실제로 필요한 것이 무엇인지 다시 따져 봐야 한다는 메시지를 남깁니다.