“混合人工智能硬件解决方案允许中小企业训练更大的人工智能模型,突破以前的限制,扩展到 骆驼-3 70B 和 Falcon 180B. 它具有与 GPU内存,利用 缓存 用于低延迟处理。它还包括高耐久性 AI100E SSD,DWPD 为 100 耐久性评级。此外,重点关注 安全性、易于部署且节省成本,aiDAPTIV+ 非常适合 人工智能应用 在需要本地数据控制和可扩展模型训练的行业中。
这种设计使组织能够训练复杂的模型,例如 骆驼-2 7B 在标准现成硬件上,同时确保低延迟处理和高耐久性存储 (100 DWPD)采用 SLC NAND.
. . .
据该公司称,他们拥有一种类似于 操作系统级交换,将不常用的数据从 RAM 卸载到存储,以释放内存用于活动进程。同样,aiDAPTIV+ 利用高速、高容量 AI100E M.2固态硬盘 作为 缓存有效扩展 GPU 内存。工程师们专门优化了这些 SSD,以满足 AI 工作负载的密集需求,确保高效的数据管理和无缝的模型训练。-electronics-lab.com