Phison aiDAPTIV+: 하이브리드 AI 솔루션 – LLM 학습을 위해 SSD 캐싱과 GPU 결합

작가 | 2025년 3월 3일 | 뉴스 속 피손

“하이브리드 AI 하드웨어 솔루션을 사용하면 중소기업이 이전 제한 사항을 넘어 훨씬 더 큰 AI 모델을 훈련하고 확장할 수 있습니다. 라마-3 70B 그리고 팔콘 180B. 원활한 통합 기능을 제공합니다. GPU 메모리, 활용 aiDAPTIVCache 저지연 처리를 위한 것입니다. 또한 높은 내구성을 포함합니다. 100 DWPD의 AI100E SSD 내구성에 대한 평가. 게다가, 다음에 초점을 맞춰 보안, 배포 용이성 및 비용 절감, aiDAPTIV+는 다음에 이상적입니다. AI 애플리케이션 온프레미스 데이터 제어와 확장 가능한 모델 학습이 필요한 산업에서.

이 디자인을 통해 조직은 다음과 같은 복잡한 모델을 훈련할 수 있습니다. 라마-2 7B 낮은 대기 시간 처리 및 높은 내구성의 스토리지를 보장하면서 표준 기성품 하드웨어에서 (100 DWPD) SLC NAND 포함.

. . .

회사에 따르면, 그들은 다음과 유사한 기술을 가지고 있습니다. OS 수준 스와핑덜 자주 사용되는 데이터는 RAM에서 저장소로 오프로드하여 활성 프로세스를 위한 메모리를 확보합니다. 마찬가지로, aiDAPTIV+는 고속, 대용량 AI100E M.2 SSD ~처럼 aiDAPTIVCacheGPU 메모리를 효과적으로 확장합니다. 엔지니어들은 AI 워크로드의 집중적인 요구를 처리하도록 이러한 SSD를 특별히 최적화하여 효율적인 데이터 관리와 원활한 모델 학습을 보장합니다. - electronics-lab.com

원천: 일렉트로닉스-랩닷컴

혁신을 가속화하는 기반™

ko_KR한국어