Phison – ADLINK, NVIDIA GTC 2025에서 엣지 AI 및 Gen AI 혁신을 발전시킵니다.

• 생성 AI의 장벽을 깨다 DLAP Super 및 Supreme 시리즈 Phison aiDAPTIV+를 사용하여 Edge AI 성능을 높이고 차세대 Edge AI를 구현합니다. 엔비디아 제트슨 오린 슈퍼모드.

. . .

엣지에서 경제적인 생성 AI 가속화
엣지 디바이스에서의 생성적 AI 도입은 대용량 언어 모델(LLM) 실행 시 DRAM 용량 제약으로 인해 제한되는 경우가 많습니다. NVIDIA Jetson AGX Orin을 탑재한 DLAP Supreme 시리즈는 Phison aiDAPTIV+ 기술을 통해 AI 성능을 향상시켜 토큰 길이 제한을 효과적으로 극복하고 추론 속도를 향상시킵니다. 예를 들어, NVIDIA Jetson AGX Orin 64GB 구성을 갖춘 DLAP-411 Orin Supreme을 Llama3.1과 함께 사용하면70B 모델에서 추론 TTFT는 52배, 토큰 길이는 4배 향상되었습니다. NVIDIA Jetson Orin Super Mode를 탑재한 DLAP Super 시리즈는 AI TOPS가 최대 1.7배, GenAI 모델 성능이 최대 2배 향상된 강력하고 소프트웨어 최적화된 프레임워크를 제공합니다. DLAP Super와 Supreme 시리즈는 엣지에서 생성적 AI 애플리케이션의 배포를 가속화하는 것을 목표로 합니다. - morningstar.com

원천: 모닝스타닷컴