“GTC 2024에서 Phison의 부스는 예상치 못한 놀라움을 선사했습니다. 이 회사는 AI 워크로드를 위한 효과적인 메모리 공간을 확장하기 위해 SSD와 DRAM을 사용하는 4개의 GPU가 장착된 단일 워크스테이션을 시연했습니다. 이를 통해 일반적으로 24TB에 걸쳐 1.4TB의 VRAM이 필요한 워크로드를 실행할 수 있습니다. H100 GPU. 회사의 새로운 aiDaptiv+ 플랫폼은 시스템 DRAM과 SSD를 사용하여 훈련에 사용할 수 있는 GPU VRAM의 양을 늘려 AI LLM 훈련의 장벽을 낮추도록 설계되었습니다. Phison은 이를 통해 사용자가 몇 분의 1 비용으로 집중적인 생성 AI 훈련 워크로드를 달성할 수 있다고 말합니다. 표준 GPU를 사용하는 것만으로도 비용이 들지만, 낮은 진입 비용으로 인해 성능이 저하되어 훈련 시간이 길어집니다.”
원천: 톰의 하드웨어