Qualcomm представила нові ШІ-прискорювачі AI200 та AI250 для дата-центрів, які мають на меті скласти конкуренцію рішенням від Nvidia та AMD. В основі чипів лежить технологія Hexagon NPU, адаптована з мобільних пристроїв для роботи з важкими навантаженнями.

Модель AI200 підтримує до 768 ГБ LPDDR пам'яті на одній платі PCIe, що є критично важливим для запуску великомасштабних мовних моделей, і використовує рідинне охолодження. Флагманський AI250 отримає інноваційну архітектуру NMC (near-memory computing), яка, як очікується, в 10 разів підвищить пропускну здатність пам'яті при одночасному зниженні енерговитрат.

Qualcomm пропонує повний стек програмного забезпечення, сумісний з такими фреймворками, як PyTorch та ONNX, для спрощення розгортання ШІ-моделей. Першим великим клієнтом з контрактом на постачання обчислювальних потужностей сумарною потужністю 200 МВт стала компанія Humain із Саудівської Аравії.

💻 Підписатись