AI 반도체 시장의 구조와 엔비디아 경쟁 구도 정리

발표자는 엔비디아가 칩 단일 성능보다 칩, 소프트웨어, 서버, 네트워크를 묶어 제공하는 풀스택 역량에서 강점을 가진다고 설명한다. 에이전틱 AI 확산으로 추론 연산이 늘면서 GPU뿐 아니라 CPU와 메모리의 역할도 커지고 있으며, 빅테크와 AI 기업의 자체 칩 개발로 경쟁도 치열해지는 흐름을 짚는다.

⏱ 00:00발표자는 칩 단일 성능만 보면 일부 경쟁사가 앞설 수 있지만, 칩부터 소프트웨어, 서버, 네트워크까지 풀스택으로 제공할 수 있는 기업은 많지 않다고 말한다. 이 점에서 엔비디아가 확실한 강점을 가진다는 것이 핵심 주장이다.

AI 반도체 시장 자체가 빠르게 커지고 있어 기업마다 주목받는 시점이 다르다고도 설명한다. 로봇 같은 물리적 AI도 더 이상 먼 미래의 이야기가 아니라는 점을 함께 언급한다.

⏱ 00:38생성형 AI는 질문에 답하는 조력자에 가까웠지만, 에이전틱 AI는 업무 계획을 세우고 직접 수행하고 결과를 검증하는 실무자에 가깝다고 비유한다. 사람이 일하는 방식처럼 계획, 실행, 검토 단계를 거치기 때문에 한 가지 업무를 처리하는 데도 여러 에이전트가 번갈아 작동한다.

이 과정에서 처리해야 할 토큰과 연산량이 크게 늘어난다. 그래서 학습된 모델을 실제로 돌리는 추론의 중요성이 커지고, GPU뿐 아니라 업무를 조율하는 CPU와 데이터를 담는 메모리까지 함께 주목받게 되었다. 범용 AI 모델을 운용하는 데는 여전히 GPU가 쓰인다.

⏱ 05:10발표자는 엔비디아의 가장 큰 강점으로 쿠다라는 소프트웨어 개발 환경을 꼽는다. 많은 AI 프로그램과 라이브러리가 엔비디아 GPU에 맞춰 최적화되어 있어, 다른 칩으로 옮기려면 성능과 호환성 문제를 함께 고민해야 한다.

구형 GPU로도 충분하다는 의견이 나왔을 때도, 고성능 GPU를 대량으로 붙여 학습시킨 대형 모델이 더 좋은 성능을 보였다는 사례가 제시된다. 또한 엔비디아는 GPU, CPU, HBM을 묶은 서버 랙 단위로 판매를 확대하고 있고, NVLink, NVSwitch, InfiniBand 같은 연결 기술을 보유하고 있다. 다른 회사의 AI 칩도 자사 인프라와 연결할 수 있도록 NVLink Fusion을 제공하는 점도 언급된다. 발표자는 엔비디아가 스스로를 GPU 기업에서 AI 팩토리, AI 인프라 기업으로 소개하는 흐름을 짚었다.

⏱ 09:41많은 사용자가 비슷한 시간대에 여러 AI 에이전트를 동시에 돌리면, GPU, CPU, 메모리가 함께 작동하고 서버 간 통신도 원활해야 한다. 그래서 개별 칩의 성능보다 데이터센터 전체를 얼마나 효율적으로 돌리느냐가 중요해지고 있다.

발표자는 투자 관점에서 엔비디아의 GPU 판매량만큼이나 AI 데이터센터의 전체 효율을 개선하는 역할에 주목할 필요가 있다고 본다. 또한 빅테크와 오픈AI, 앤트로픽 같은 AI 모델 기업들도 자체 칩 개발을 추진하고 있어 경쟁이 더 치열해질 것이라고 설명한다. 빅테크 입장에서는 핵심 인프라를 단일 공급사에 맡기는 것이 리스크이기도 하다.

⏱ 13:23GPU가 연산을 빠르게 하려면 필요한 데이터를 끊김 없이 공급받아야 한다. 발표자는 계산 실력이 뛰어난 사람이라도 옆에서 자료를 느리게 넘겨주면 전체 업무 속도가 떨어지는 상황에 비유한다. 이 데이터 공급 역할을 맡는 것이 메모리 반도체이고, HBM은 그 대표적인 형태다.

AI 모델 규모가 커지고 처리량이 늘면서 고성능 메모리 수요도 함께 늘고 있다. 서버에서 CPU와 함께 쓰이는 DRAM이 떠오르는 이유이기도 하다. 또한 AI가 과거 대화 내용을 기억해 활용하는 것처럼, 데이터를 오랫동안 저장하는 스토리지 역시 메모리 반도체로서 역할이 커지고 있다고 설명한다.

⏱ 16:47AI가 쓰이는 용처가 많아지면서 모든 작업을 범용 GPU 하나로 처리하기보다 업무에 맞는 칩을 나눠 쓰는 경우가 늘고 있다. 발표자는 특정 용도에 맞춘 주문형 반도체, 즉 ASIC이 비용과 전력 효율 면에서 유리한 경우가 있다고 설명한다. CPU는 에이전트 간 업무를 나누고 조율하는 역할에서 다시 주목받고 있다.

오픈AI는 브로드컴과 함께 자체 칩을 개발했고, 앤트로픽도 자사 모델에 특화된 칩을 준비하고 있다. 인텔은 CPU 수요 증가를 기회로 보고 있으며, AMD는 AI 전용 가속기로 니치 시장을 노리고 있다. 기업 간 사업 영역이 겹치지만 시장 규모가 빠르게 커지고 있어 시기마다 주목받는 기업이 달라진다는 것이 발표자의 설명이다.

⏱ 21:00진행자는 최근 AI가 로봇이나 실제 기계 안으로 들어가는 흐름을 언급하며, 이에 따른 성장 가능성을 물어보는 것으로 대화가 이어진다. 자막이 이 지점에서 끊겨 발표자의 구체적인 답변 내용은 확인되지 않는다.