人工智能

近期一封题为《开放权重与美国人工智能领导地位》的行业信函指出，开放权重模型（即可供下载的已训练人工智能模型）对于构建具有竞争力和广泛可及性的人工智能生态系统至关重要。该信函论证有力…….

在计算能力耗尽之前，对大型 AI 模型进行微调往往会受到 GPU 内存的限制。本文解释了为什么权重、优化器状态、梯度和激活值会驱动内存需求，为什么添加 GPU 可能是一种昂贵的权宜之计，以及如何…….

了解键值缓存增长如何悄无声息地降低 AI 推理性能，以及为什么内存感知型基础设施对于扩展现代 AI 工作负载至关重要。AI 推理性能通常会在 GPU 达到计算极限之前很久就开始下降，因为键值缓存的增长…….

混合专家架构能够处理更大规模的模型，同时每个令牌仅激活模型的一小部分参数。这使其非常适合本地人工智能，但完整的模型仍然需要保持在内存中的可访问性。以下解释了这一点的重要性…….

了解内存优化和基础设施设计如何扩展人工智能的访问范围，同时提高效率和可持续性。联合国于 2015 年提出的可持续发展目标 (SDGs) 为解决一些全球性问题提供了一个框架…….