Phison 엔지니어들은 GPU 성능이 메모리 크기에 따라 증가한다는 것을 발견했습니다. 즉, 고대역폭 메모리(HBM) DRAM을 사용하고, 이 메모리를 적절하게 관리하며 저렴한 NAND 플래시를 사용하면 일반적인 경우보다 적은 수의 GPU로 대형 모델을 지원할 수 있다는 것입니다. Phison은 이 문제에 대한 하드웨어와 소프트웨어의 결합된 접근 방식을 통해 더빙 "aiDAPTIV+"를 사용하면 단일 GPU가 여러 GPU 시스템보다 다소 느린 성능으로 LLM을 지원하면서도 비용이 훨씬 저렴합니다. - techtarget.com
원천: techtarget.com
한국어 
English 
繁體中文 
简体中文 
日本語 
Deutsch