맞춤형 AI 칩은 실제로 어떻게 엔비디아 GPU와 경쟁할 수 있을까요?

엔비디아가 AI 컴퓨팅 분야를 장악하고 있지만, 구글, 메타, 아마존 등 하이퍼스케일러 기업들은 자사의 AI 워크로드에 특화된 프로세서를 점점 더 많이 개발하고 있습니다.

차이점은 전문화에 있습니다.

엔비디아 GPU는 광범위한 가속 컴퓨팅 작업을 처리하도록 설계되었습니다. 반면 맞춤형 AI 가속기는 기업에 필요하지 않은 기능을 제거하고 더 많은 실리콘, 메모리 대역폭 및 전력을 더 좁은 범위의 계산에 집중시킬 수 있습니다.구글의

TPU 아키텍처는 이러한 작동 방식을 보여줍니다. TPU 8t는 대규모 모델 학습을 목표로 하는 반면, TPU 8i는 추론에 최적화되어 있으며 구글의 이전 추론 세대보다 가격 대비 성능이 뛰어납니다.엔비디아, 유연성 면에서 우위 확보엔비디아의 우위는 단순히 칩 성능에만 국한되지 않습니다.

이 회사의 GPU는 최첨단 모델을 학습시키고, 추론을 실행하고, 과학 컴퓨팅을 지원하며, 데이터 센터가 구축될 당시에는 존재하지 않을 수도 있는 새로운 워크로드를 처리할 수 있습니다.

AI 소프트웨어는 빠르게 변화하기 때문에 이러한 유연성이 중요합니다. 수천 대의 엔비디아 시스템을 보유한 클라우드 제공업체는 특정 워크로드에 얽매이지 않고 수요 변화에 따라 GPU를 재할당할 수 있습니다.

엔비디아는 CUDA, 네트워킹 제품, 그리고 성숙한 개발자 생태계를 보유하고 있습니다. 이러한 소프트웨어적 이점 덕분에 GPU를 다양한 모델과 고객에게 더욱 쉽게 배포할 수 있습니다.

그렇기 때문에 자체 칩을 개발하는 기업들도 여전히 엔비디아 하드웨어를 구매하는 것입니다. 심지어 구글의 인프라조차도 TPU와 엔비디아 GPU를 완전히 대체하는 방식이 아니라 결합하여 사용하고 있습니다.

AI 칩 관련 주식 분석 자료는 대체 실리콘 시장이 확장되는 와중에도 엔비디아가 여전히 중심적인 위치를 차지하고 있음을 보여줍니다.규모의 경제로 효율성이 중요해질 때 맞춤형 칩이 승리합니다.

동일한 작업 부하가 수백만 또는 수십억 번 실행될 때 경제성이 달라집니다.

추론이 가장 명확한 예입니다. 구글이 제미니 요청이 어떻게 처리될지 안다면, 거의 사용하지 않을 유연성에 비용을 지불하는 대신 해당 계산에 맞춰 하드웨어를 최적화할 수 있습니다.

이를 통해 전력 소비와 쿼리당 비용을 절감하는 동시에 활용도를 향상시킬 수 있습니다.

요인	엔비디아 GPU	맞춤형 AI 칩
유연성	매우 높음	낮추다
소프트웨어 생태계	성숙하고 폭넓은	일반적으로 독점 소유입니다.
최적의 활용 사례	훈련 및 혼합 작업량	대규모 반복 작업 부하
초기 개발 비용	고객을 위한 더 낮은 가격	매우 높음
대규모 효율성	강한	잠재적으로 더 높음
업무량 변경 능력	높은	더 제한적

Meta는 MTIA를 통해 유사한 전략을 따르고 있으며, Amazon은 클라우드 인프라를 위해 Trainium과 Inferentia를 개발하고 있습니다.이러한 이유로

브로드컴과 엔비디아는 AI 투자 증가로부터 모두 이익을 얻을 수 있습니다. 엔비디아는 유연한 가속기를 제공하고, 브로드컴은 하이퍼스케일 기업들이 특정 워크로드에 최적화된 칩을 설계하도록 지원합니다.하이퍼스케일러는 여전히 외부 칩 전문가가 필요합니다.

맞춤형 가속기를 설계한다는 것은 모든 구성 요소를 자체적으로 제조한다는 것을 의미하지는 않습니다.

클라우드 기업들은 일반적으로 물리적 설계, 네트워킹, 인터페이스 및 생산과 관련하여 브로드컴이나 마벨과 같은 전문 업체와 협력합니다.

Marvell과 Google의 확장된 협력 관계는 맞춤형 추론 가속기, 네트워킹 컨트롤러 및 Google의 TPU 생태계에 연결된 니어 메모리 컴퓨팅을 포함합니다.이는

AI 인프라 거래가 GPU 제조업체를 넘어 다른 분야로까지 확장되는 이유를 설명하는 데 도움이 됩니다.맞춤형 칩이 엔비디아를 완전히 대체할 가능성은 낮다.

보다 가능성이 높은 결과는 혼합형 아키텍처입니다.

기업은 엔비디아 GPU에서 대규모 모델을 학습시키고, 자체 개발한 가속기에서 대용량 추론을 실행하며, 네트워킹이나 메모리 이동을 위해 별도의 맞춤형 칩을 사용할 수 있습니다.

맞춤형 칩은 작업 부하가 예측 가능할 때 더 저렴하고 효율적으로 만들어 경쟁력을 확보합니다. 엔비디아는 거의 모든 분야에서 유용성을 유지함으로써 경쟁력을 확보합니다.

AI 인프라 투자가 증가함에 따라, 이 두 가지 접근 방식은 서로를 배제하는 것이 아니라 동시에 확장될 수 있습니다.