NVIDIA의 Grace CPU 슈퍼 칩의 아키텍처가 CPU+GPU인 것이 우연이라면, Intel과 AMD가 출시한 Falcon Shores XPU 칩과 Instinct MI300 칩도 CPU+GPU 구조이며, CPU+GPU가 일체형인 구조는 우연이라고 보기는 어렵습니다.
더욱 '우연한' 점은 위 세 가지 칩이 모두 데이터센터 시나리오에 사용된다는 점인데, 이는 향후 2년 안에 AMD, Nvidia, Intel이 모두 하이브리드 CPU+GPU 칩을 탑재하게 된다는 의미입니다. 데이터센터 시장.
CPU+GPU 형태가 미래 칩 설계의 트렌드가 됐다고 할 수 있다.
인텔, XPU 출시
인텔은 공식적으로 XPU라고 불리는 특수 퓨전 프로세서 "Falcon Shores"를 발표했습니다. 그 핵심에는 Intel의 x86 CPU와 Xe GPU 하드웨어를 동일한 Xeon 칩에 탑재하는 새로운 프로세서 아키텍처가 있습니다.
Falcon Shores 칩은 타일 디자인을 기반으로 하며 확장성과 유연성이 매우 높아 HPC 및 AI 애플리케이션의 요구 사항을 더 잘 충족할 수 있습니다.
인텔이 제공한 수치에 따르면 현재 수준과 비교하여 Falcon Shores의 에너지 소비율은 5배 이상 증가했으며 x86 컴퓨팅 밀도는 5배 이상 증가했으며 메모리 용량과 밀도는 5배 이상 증가했습니다. 5배 이상 증가했습니다.
Falcon Shores 칩은 2024년에 출시될 예정입니다.
AMD, APU 출시
데이터센터 분야에서도 AMD는 야망을 드러낸다.
APU는 통합 그래픽을 갖춘 클라이언트 CPU에 대한 AMD의 전통적인 "가속 처리 장치" 명명법입니다. AMD는 2006년 옵테론 CPU 전성기부터 APU를 꿈꿔왔고, 2010년 PC용 APU를 최초로 출하하기 시작했다. 그 후 일련의 맞춤형 APU가 Sony Play Station 4 및 5, Microsoft Xbox XS 게임 콘솔과 일부 Opteron APU(2013년 X2100, 2017년 X3000)에 출시되었습니다.
최근 AMD가 발표한 로드맵에는 Instinct MI300 칩이 2023년에 출시될 것으로 나와 있습니다. 이는 AMD가 출시한 최초의 엑사스케일 APU입니다. 이를 "세계 최초의 A 데이터 센터 APU"라고 부릅니다.
이 APU는 CPU와 GPU 코어를 하나의 패키지로 결합한 칩으로, 특히 새로운 CDNA3 아키텍처를 사용하여 Zen4 기반 Epyc CPU와 GPU를 결합합니다.
AMD는 Instinct MI300이 Instinct MI250X에 비해 8배 이상의 AI 훈련 성능 향상을 제공할 것으로 예상한다고 밝혔습니다. Instinct MI300은 AI에 적합합니다. 이 로드는 와트당 성능을 5배 이상 향상시킵니다.
Instinct MI300은 2023년에 출시될 예정입니다.
엔비디아 그레이스 슈퍼칩
늘 GPU 설계에 주력해 온 엔비디아는 지난해 Arm 아키텍처 기반 CPU 진출을 발표해 돌풍을 일으켰다. 올해 3월 엔비디아는 HPC와 대규모 인공지능 애플리케이션을 해결하는 그레이스 호퍼(Grace Hopper) 슈퍼칩을 출시했다. 이 칩은 NVLink-C2C를 통해 NVIDIA Hopper GPU와 Grace CPU를 통합 모듈에 결합합니다.
CPU+GPU의 그레이스 호퍼 코어 수는 절반으로 줄어들고, LPDDR5X 메모리는 512GB에 불과하지만 그래픽 카드의 80GB HBM3 메모리를 추가하면 총 대역폭은 3.5TB/에 도달할 수 있다. s, 1000W의 전력 소비 비용으로 각 시스템 랙은 42개의 노드를 수용합니다.
엔비디아도 2023년 상반기에 슈퍼 칩을 출시하겠다고 약속했습니다.
출시 시점으로 볼 때 Intel Falcon Shores 칩, AMD Instinct MI300, NVIDIA Grace Hopper 슈퍼 칩은 각각 2024년, 2023년, 2023년 상반기에 출시될 예정입니다.
CPU+GPU 형태가 3강의 관심을 불러일으키고 데이터센터에 배치한 이유는 무엇일까?
우선, 디지털 경제 시대에 컴퓨팅 파워는 새로운 생산력으로 자리잡고 있으며 사회 생산과 생활의 모든 측면에 폭넓게 통합되고 있습니다. 데이터 센터는 컴퓨팅 성능의 물리적 전달자이자 디지털 개발을 위한 핵심 인프라입니다. 글로벌 데이터 센터 성장은 안정적이며, 2021년 글로벌 데이터 센터 시장은 2020년 대비 9.8% 증가한 미화 679억 달러를 초과할 것입니다. 따라서 거대한 시장을 가진 데이터 센터는 기술 거대 기업들에 의해 오랫동안 면밀히 관찰되어 왔습니다.
둘째, 데이터 센터는 많은 양의 데이터를 수집하므로 데이터 센터에 내장된 칩에는 엄청난 컴퓨팅 성능이 필요합니다. CPU와 GPU를 결합하면 컴퓨팅 성능을 높일 수 있습니다. Intel의 수석 부사장이자 AXG(Accelerated Computing Systems and Graphics) 그룹의 총괄 관리자인 Raja Koduri는 연설에서 HPC 시장을 성공적으로 포착하려면 대규모 데이터 세트를 처리할 수 있는 칩이 필요하다고 언급했습니다. GPU에는 강력한 컴퓨팅 기능이 있고 수백 개의 코어를 동시에 병렬로 작업할 수 있지만 오늘날의 독립 GPU에는 여전히 큰 결함이 있습니다. 즉, 대규모 데이터 세트를 독립 GPU 메모리에 쉽게 배치할 수 없으며 기다리는 데 시간이 걸립니다. 비디오 메모리의 데이터 새로 고침이 느려집니다.
특히 메모리 문제의 경우 CPU와 GPU를 동일한 아키텍처에 배치하면 중복 메모리 복사본을 제거하여 프로세서가 더 이상 데이터에 액세스하거나 변경하기 위해 전용 메모리 풀에 데이터를 복사할 필요가 없습니다. 데이터. 메모리 풀을 통합한다는 것은 두 번째 메모리 칩 풀, 즉 CPU에 연결된 DRAM이 필요하지 않음을 의미합니다. 예를 들어 Instinct MI300은 CDNA3 GPU 칩렛과 Zen4 CPU 칩렛을 단일 프로세서 패키지로 결합하고 두 프로세서 풀은 패키지된 HBM 메모리를 공유합니다.
NVIDIA는 NVLink-C2C 상호 연결을 사용하여 Grace CPU가 기존 CPU보다 15배 빠르게 데이터를 Hopper GPU에 전송할 수 있다고 공식적으로 밝혔습니다. AMD의 Infinity Fabric과 마찬가지로 HPC급 프로세서는 데이터를 매우 빠르게 처리하기 때문에 CPU와 GPU 간 데이터 교환에 소요되는 지연 시간과 대역폭 비용이 여전히 상당히 높습니다. 따라서 이 링크의 물리적 거리를 최대한 단축할 수 있다면 많은 에너지를 절약하고 성능을 향상시킬 수 있다.
AMD는 이 아키텍처 설계를 통해 APU가 개별 CPU 및 GPU를 사용하는 구현에 비해 더 낮은 전력 소비를 사용할 수 있다고 밝혔습니다. Intel은 또한 Falcon Shores 칩이 와트당 성능, 컴퓨팅 밀도를 크게 높일 것이라고 밝혔습니다. , 메모리 용량.
여러 개의 독립적인 구성 요소를 통합하면 장기적으로 많은 이점을 얻을 수 있는 경우가 많지만 단순히 CPU와 GPU를 하나의 칩에 통합하는 것만이 아닙니다. Intel, NVIDIA, AMD의 GPU+CPU는 모두 Chiplet 방식을 사용합니다.
전통적으로 복잡한 IC 제품을 개발하기 위해 공급업체는 모든 기능을 동일한 칩에 통합하는 칩을 설계합니다. 각 후속 세대마다 칩당 기능 수가 극적으로 증가했습니다. 최신 7nm 및 5nm 노드에서는 비용과 복잡성이 급증했습니다.
Chiplet 설계를 사용하면 다양한 기능과 프로세스 노드를 갖춘 모듈형 칩 또는 칩렛이 동일한 칩에 패키징됩니다. 칩 고객은 이러한 칩렛 중 하나를 선택하고 고급 패키징으로 조립하여 새롭고 복잡한 결과를 얻을 수 있습니다. SoC(시스템온칩)의 대안으로 칩 설계.
3대 거대 기업이 멀티 칩 상호 연결을 자체 개발하면서 맞춤형 서비스를 출시한 것도 바로 소형 칩의 특성 때문이다.
인텔은 Falcon Shores를 출시하면서 아키텍처가 칩렛 방식을 사용할 것이며, 다양한 제조 공정을 통해 제조된 여러 칩과 다양한 프로세서 모듈을 하나의 칩 패키지에 촘촘하게 담을 수 있다고 소개했습니다. 이를 통해 Intel은 칩에 넣을 수 있는 CPU, GPU, I/O, 메모리 유형, 전원 관리 및 기타 회로 유형에 대해 더 높은 수준의 사용자 정의를 가질 수 있습니다.
가장 특별한 점은 Falcon Shores가 필요에 따라 다양한 블록 모듈을 구성할 수 있다는 점입니다. 특히 x86 CPU 코어와 XeGPU 코어는 용도에 따라 그 수와 비율이 매우 유연합니다.
현재 인텔은 라이센싱을 위해 x86 아키텍처를 공개했으며 고객이 Arm 및 RISC-V 코어를 하나의 패키지에 넣을 수 있는 칩렛 전략을 개발했습니다.
최근 AMD는 맞춤화의 문도 열었습니다. AMD 최고 기술 책임자인 Mark Papermaster는 애널리스트 데이 컨퍼런스에서 "우리는 칩을 보다 쉽고 유연하게 구현하는 데 중점을 두고 있습니다."라고 말했습니다.
AMD는 고객이 소형 칩 패키지에 여러 개의 다이를 구현할 수 있도록 해줍니다. 칩렛 또는 컴퓨팅 타일). AMD는 이미 타일을 사용하고 있지만 이제 AMD는 제3자가 x86 CPU 및 GPU와 함께 2D 또는 3D 패키지에 포함할 가속기 또는 기타 칩을 만들 수 있도록 허용하고 있습니다.
AMD의 맞춤형 칩 전략은 칩 패키징에서 다이를 상호 연결하는 새로운 Infinity Architecture 4.0을 중심으로 전개됩니다. 독점 Infinity 패브릭은 CXL 2.0 상호 연결과 호환됩니다.
Infinity Interconnect는 패키지의 칩렛을 연결하기 위해 UCIe(Universal Chiplet Interconnect Express)도 지원합니다. UCIe는 Intel, AMD, Arm, Google, Meta 및 기타 회사에서 지원되었습니다.
전반적으로 AMD의 서버 GPU 궤적은 Intel 및 Nvidia와 매우 유사합니다. 세 회사 모두 Nvidia의 GraceHopper(Grace+H100), Intel의 Falcon Shores XPU(CPU+GPU 혼합 및 매칭), 그리고 이제 단일 패키지에 CPU와 GPU 칩렛을 모두 사용하는 MI300 등 결합된 CPU+GPU 제품을 향해 나아가고 있습니다. 세 가지 경우 모두 이러한 기술은 어느 쪽에도 완전히 구속되지 않는 워크로드를 위해 최고의 CPU와 최고의 GPU를 결합하도록 설계되었습니다.
시장 조사 기관인 카운터포인트 리서치(Counterpoint Research)의 연구 분석가인 Akshara Bassi는 “칩 면적이 커지고 웨이퍼 수율 문제가 더욱 중요해짐에 따라 멀티 칩 모듈 패키징 설계는 더 높은 단일 칩 설계를 달성할 수 있습니다. 더 나은 전력 소비 및 성능 ”
칩렛은 여기에 있지만 현재로서는 이 분야는 섬과 같습니다. AMD, Apple, Intel 및 Nvidia는 특정 패키징 기술에 자체 상호 연결 설계를 적용하고 있습니다.
2018년 인텔은 EMIB(임베디드 멀티 실리콘) 기술을 로직 웨이퍼 3D 적층 기술로 업그레이드했다. 2019년 인텔은 두 개 이상의 Foveros 칩을 상호 연결할 수 있는 Co-EMIB 기술을 출시했습니다.
AMD는 2019년 칩렛(Chiplet) 모델을 최초로 제안하고 소형 칩 기술을 전면 적용해 기술적 우위를 확보했다.
Lisa Su는 연설에서 "우리는 미래 고성능 컴퓨팅 제품을 위한 3D 칩렛 아키텍처를 만들기 위해 칩렛 패키징과 칩 적층을 결합하는 3D 구조에 관해 TSMC와 긴밀히 협력하고 있습니다"라고 향후 계획을 밝혔습니다. 올해 2월에는 인텔, AMD, Arm, 퀄컴, TSMC, 삼성, ASE, 구글 클라우드, 메타, 마이크로소프트 등 10대 거대 기업이 칩렛 표준 얼라이언스(Chiplet Standard Alliance) 설립을 발표하고 UCIe(Universal Small Chip Interconnect Standard)를 출시했다. 업계를 하나로 모으는 것.
현재까지 소수의 칩 거대 기업만이 Chiplet 기반 디자인을 개발하고 제조했습니다. 고급 노드용 칩 개발 비용이 계속 증가함에 따라 업계에서는 그 어느 때보다 칩렛이 필요합니다. 멀티칩 추세에 따라 차세대 최상위 칩은 필연적으로 멀티칩 설계가 될 것입니다.