Phison, 현장 및 엣지에서 사용할 AI 처리 용량 확장

생성형 AI는 조직이 이 기술의 이점을 얻으려고 하면서 산업 전반에서 점점 더 보편화되고 있습니다. 그러나 엣지의 AI 애플리케이션은 종종 메모리 제약에 직면하여 출력의 품질이 제한됩니다. 

이러한 과제를 해결하기 위해 Phison은 고성능 NAND 플래시 기술 분야의 전문성을 활용했습니다. aiDAPTIV+ 솔루션으로 AI 기능을 확장하는 획기적인 접근 방식을 가능하게 합니다. SSD를 대용량 언어 모델(LLM)의 확장 메모리로 통합함으로써 Phison의 기술은 에지 IoT 및 로봇 장치, PC, 엔지니어링 워크스테이션 및 데이터 센터 서버에 대한 새로운 가능성을 열어줍니다. 이러한 발전으로 인해 장치는 더 큰 모델을 로드하고 미세 조정과 더 나은 추론 결과를 모두 달성할 수 있게 되었으며, 이는 이전에는 달성할 수 없었던 기능입니다. 

예를 들어, Phison의 측정 결과에 따르면 NVIDIA와 다른 회사의 PC와 새로 출시된 IoT 기기는 이제 단순히 추론을 수행하는 것 외에도 10억~80억 개의 매개변수 범위에서 모델을 미세 조정할 수 있습니다. 게다가 NVIDIA의 Jetson Orin Nano 슈퍼 개발자 키트, aiDAPTIV+는 토큰 길이를 16배로 확장하여 더 나은 맥락 이해와 더 정확한 출력을 가능하게 했습니다. 구체적으로, 첫 번째 토큰까지의 시간을 24배로 가속화하여 응답 시간을 개선하여 사용자 경험을 향상시켰습니다. 

주요 AI 과제 해결

Phison의 aiDAPTIV+는 또한 AI 추론 애플리케이션의 중요한 장애물을 해결하도록 설계되었습니다. 

• • • 메모리 제약을 깨다:  aiDAPTIV+는 확장 메모리로 NAND 플래시 스토리지를 통합합니다. 더 큰 훈련 가능 대규모 언어 모델(LLM)을 통해 토큰 처리 용량이 크게 늘어나고 장문 콘텐츠 생성 및 이해가 더욱 용이해졌습니다.

• • • 추론 효율성 향상:  이 솔루션은 리소스를 최적화하여 추론 속도를 높이고, 비용 효율성을 유지하는 동시에 응답 시간을 줄입니다. 

혁신을 위한 파트너십

이러한 발전을 실제 작업 부하에 적용하기 위해 Phison은 ADLINK Technology와 협력했습니다. 함께 그들은 다음을 개발했습니다. ADLINK Technology DLAP Supreme 시리즈, NVIDIA의 Jetson Orin Nano Super Developer Kit과 Phison의 aiDAPTIV+ 기술로 구동되는 엣지 생성형 AI 플랫폼입니다. 이 플랫폼은 상당한 하드웨어 비용을 들이지 않고도 엣지에서 높은 메모리 용량과 컴퓨팅 성능을 제공하여 다양한 산업과 애플리케이션에서 AI를 더 쉽게 사용할 수 있게 합니다. 

데이터 센터에서 엣지 컴퓨팅까지

Phison의 aiDAPTIV+는 엣지 IoT 기기에서 데이터 센터에 이르기까지 컴퓨팅 레벨 전반에 걸쳐 AI 기능을 보급하기 위한 혁신적인 소프트웨어 및 하드웨어 통합의 잠재력을 보여줍니다. NVIDIA, Meta, Hugging Face와 같은 업계 리더의 소프트웨어를 활용하여 Phison은 산업, 정부 부문 및 학계에서 AI 도입을 강화하는 실용적이고 비용 효율적인 솔루션을 제공하고 있습니다. 

AI의 미래는 일상적인 작업의 지능적 자동화에 있으며, 인간이 보다 전략적이고 창의적인 추구에 집중할 수 있도록 해줍니다. Phison의 aiDAPTIV+ 솔루션은 이러한 비전을 실현하는 데 있어 중요한 진전이며, 고급적이고 광범위한 생성 AI 역량의 길을 열어줍니다. 

Phison의 추가 AI 콘텐츠