“Phison은 이 캠페인을 주도하고 있습니다. aiDAPTIV+ LLM 교육 통합 솔루션. 하지만 이름이 꽤 길기 때문에 지금부터는 aiDAPTIV+라는 단어를 사용하겠습니다.
. . .
Phison은 이 원리를 AI에 적용하기로 결정했습니다. aiDAPTIV+ 설계는 특수 SSD를 사용하여 LLM 훈련 시스템에 필요한 HBM DRAM 용량을 줄였습니다.
Phison은 시스템에 필요한 GPU 수는 문제에 필요한 DRAM 크기에 따라 결정된다고 주장합니다. 그들의 주장은 GPU에 80GB의 HBM이 있고 800GB의 매개변수가 필요한 모델을 실행한다면 10개의 GPU를 사용해야 한다는 것입니다. - pcper.com
원천: pcper.com