산업 소식

AMD의 Strix Halo, 최대 128GB 메모리 지원으로 AI 대형 언어 모델에 최적화

kyojuro 2024. 6. 24.

AMD는 컴퓨텍스 타이페이 2024에서 Zen 5 아키텍처 기반 Riptide 9000 데스크톱 프로세서인 Granite Ridge와 Riptide AI 300 모바일 프로세서인 Strix Point를 공개했습니다. 중요한 APU인 스트릭스 헤일로도 선보였으며, 이 APU는 약 120W의 TDP와 최소 32GB의 RAM을 자랑합니다.

뉴비드 데이터 웹사이트에 따르면, 최근 Maple Rev.B PCB의 새로운 선적분이 발송되었습니다. 이 배송은 AMD가 최근 테스트에 사용하고 있는 FP11 소켓 스트릭스 헤일로 레퍼런스 플랫폼으로, 최대 128GB의 메모리 용량을 자랑합니다. 이전 테스트 플랫폼에는 32GB 및 64GB 메모리가 탑재되었습니다. 유출된 문서에 따르면 스트릭스 헤일로는 256비트 메모리 버스와 LPDDR5-8000 메모리를 지원합니다. 특히 이 APU는 CPU에 메모리를 통합하지 않습니다. 현재 LPDDR5X 단일 칩의 최대 용량이 16GB라는 점을 고려할 때, 이 구성에는 CPU를 둘러싼 최소 8개의 메모리 칩이 필요합니다.

상당한 메모리 할당은 메모리 집약적인 것으로 악명 높은 광범위한 AI 모델을 실행하기 위해 설계된 것으로 추정됩니다. 스트릭스 헤일로 자체는 2개의 CCD와 1개의 GCD 등 3개의 칩으로 구성된 MCM 설계를 활용하여 강력한 AI 성능을 제공할 것으로 예상됩니다. 각 Zen 5 아키텍처 코어에는 1MB L2 캐시가 포함되며, 각 CCD에는 8개의 코어와 32MB L3 캐시가 있습니다. 따라서 총 16MB L2 캐시 및 64MB L3 캐시가 제공되며, 두 개의 CCD는 IF 버스를 통해 상호 연결됩니다.

IOD는 본질적으로 더 많은 코어가 통합된 GCD로 대체되었습니다. GCD는 특히 두 개의 CCD보다 칩 면적이 더 넓고 40 TOPS 이상의 연산 능력을 갖춘 XDNA 2 아키텍처 NPU를 갖추고 있습니다. 또한 40개의 CU를 갖춘 RDNA3+ 아키텍처 GPU를 통합하고 잠재적인 메모리 대역폭 부족 문제를 해결하기 위해 32MB MALL 캐시를 포함하고 있습니다.

관련 뉴스

© 2024 - TopCPU.net   문의하기 개인정보 처리방침