메타가 이제 하드웨어도 만든다!!

Meta, AI 추론용 AMD Instinct MI300X 및 NVIDIA GB200 Catalina 발표
에 의해 패트릭 케네디-  2024년 10월 15일 0
메타 AMD MI300X 그랜드 티톤

OCP Summit 2024에서 Microsoft는 새로운 AI 하드웨어 플랫폼을 발표했습니다. Meta는 수년 동안 AI의 원동력이었으며, Llama와 방대한 데이터 세트로 점점 더 그렇습니다. 여러 가지 발표가 있으며, 이것들은 빠르게 다가오고 있습니다. 라이브로 진행하기 때문에 오타가 있을 수 있으니 양해해 주시기 바랍니다.

Meta에서 AI 추론을 위한 AMD Instinct MI300X

Meta는 8개의 가속기를 탑재한 Grand Teton 플랫폼에 AMD Instinct MI300X를 도입한다고 발표했습니다.

메타 AMD MI300X 그랜드 티톤

해당 회사는 이미 이러한 플랫폼을 사용하고 있다고 밝혔다.

Meta의 NVIDIA GB200 Catalina

Meta는 차세대를 위해 OCP에 기여하는 "Catalina"라는 NVIDIA GB200 랙을 보유하고 있습니다.

메타 엔비디아 GB200 카탈리나

Meta는 이것이 140kW 랙이라고 말합니다. NVIDIA의 Ian Buck이 GB200이 본격적으로 생산 중이라고 발표했습니다. NVIDIA는 또한 Catalina와 같은 프로젝트를 지원하기 위해 NVIDIA GB200 NVL72 플랫폼을 OCP에 기여한다고 발표했습니다.

Marvell이 있는 Meta FBNIC

전시장에서 이 제품을 찾을 수 있기를 바라지만, Meta에는 FBNIC라는 자체 NIC가 있습니다.

메타 FBNIC 마벨 OCP

이것은 Marvell로 만든 네트워크 카드입니다. 다중 호스트 설정을 위해 4개의 PCIe Gen5 연결로 분할하는 것과 같은 작업을 수행할 수 있습니다. Facebook이 자체 NIC를 설계한다는 것은 큰 일입니다.

Minipack3 및 Cisco 8501 스위치

새로운 51.2T 스위치가 두 개 있습니다. 새로운 Minipack3는 Celestica에서 제작되었으며 Broadcom Tomahawk 5를 기반으로 합니다.

Meta 51.2T 스위치 Celestica MiniPack3 Cisco
시스코는 Cisco 8501을 출시했습니다. 이는 Cisco G200 51.2T 스위치 플랫폼입니다.

여기서 주목할 점은 Meta가 자사 NIC에 Marvell을 사용하고 있지만 Marvell Teralynx 10 51.2T 스위치 플랫폼을 발표하지 않았다는 것입니다 .

메타 아리스타 DSF 브로드컴 스위치

Meta에는 Arista 플랫폼이 두 개 있습니다. Jerico3 스위치, Arista 7700R4C-38PE가 있습니다.

GPU Broadcom 스위치 플랫폼에 대한 메타 이더넷
또 다른 스위치인 Arista 7720R4-128PE가 128포트 모델입니다. 이 슬라이드의 핵심은 Meta가 GPU에 이더넷을 도입한다고 말하고 있다는 것입니다.

마지막 말

얼마나 멋진가요! Meta는 AI 분야에 많은 새로운 하드웨어를 가져왔습니다. 그러나 주목할 만한 것은 기조연설에서 Non-AI 컴퓨팅이 빠졌다는 것입니다. 그래도 이것은 NVIDIA, AMD, Broadcom, Marvell, Arista, Cisco 및 기타 기업에 큰 의미가 있습니다. Meta는 많은 하드웨어를 구매하므로 이러한 유형의 명단은 결국 업계의 바늘을 움직이게 됩니다.
출처: https://www.servethehome.com/meta-announces-amd-mi300x-for-ai-inference-marvell-fbnic-cisco-arista-broadcom/