Honor анонсировала семейство компактных рабочих станций Tiangong AXB35, предназначенных для локального запуска и разработки систем искусственного интеллекта. Старшая модель AXB35 Ultra построена на платформе Nvidia RTX Spark и имеет 128 ГБ объединенной памяти. Заявленная производительность — до 1 петафлопса в вычислениях FP4. Производительность внушительная, а размеры корпуса — наоборот. Объем внутреннего пространства компьютера составляет всего 2 литра. Габариты — 203 х 70 х 192 мм, масса — примерно 1,5 кг. Устройство рассчитано на запуск больших языковых моделей непосредственно на самом ПК без обязательного использования облачных сервисов. Платформа Nvidia RTX Spark, напомним, объединяет графическую архитектуру Blackwell RTX и процессорные технологии Grace. Конфигурация включает до 6144 ядер CUDA, 20-ядерный Arm-процессор и до 128 ГБ объединенной памяти LPDDR5X. Honor заявляет, что система способна разворачивать модели объемом до 300 млрд параметров. Однако практическая возможность работы с такими нейросетями зависит от степени квантизации, размера контекста, используемого программного обеспечения и числа одновременно выполняемых задач.
Комментарии