Acrab показала ИИ-чип Gelix 1

Сингапурский стартап Acrab представил Gelix 1 — 5-нанометровый процессор для компактных компьютеров локального ИИ. Компания прямо сравнивает его с Mac mini, делая ставку на локальный запуск языковых моделей без обращения к облаку.

Что известно о чипе

Gelix 1 получил 20 ядер ARM, встроенный нейромодуль и единую память с пропускной способностью 273 ГБ/с. По задумке Acrab, чип должен подойти для систем, где важны высокая плотность вычислений и работа с ИИ-моделями на месте.

• •техпроцесс — 5 нм
• •20 ARM-ядер
• •встроенный нейромодуль
• •единая память, 273 ГБ/с

Позиционирование и тесты

Разработчики называют Gelix 1 альтернативой Mac mini для локального запуска моделей объемом до 100 миллиардов параметров. На внутренних тестах с Gemma 26B и контекстным окном 40 000 токенов чип показал скорость предварительного заполнения 1416 токенов в секунду.

В тех же условиях Mac mini на M4 Pro, по данным Acrab, выдает 188 токенов в секунду. При этом независимых бенчмарков пока нет, поэтому сравнение остается внутрикомпанейским.

Что не раскрыто

Компания пока не назвала цены и сроки выхода готовых устройств. Также неясно, какие именно системы на базе Gelix 1 первыми появятся на рынке и кто станет их целевой аудиторией.

Кстати, Apple Mac mini на M2 с 8 ГБ RAM и SSD 256 ГБ — уже готовый компактный ПК для локальных ИИ-экспериментов, пока Gelix 1 только готовится к выходу: mediaark.pro/go/qMUFpzQ