Etched идёт на Nvidia с ИИ-ускорителем Sohu

Калифорнийский стартап Etched пытается зайти на один из самых конкурентных участков ИИ-рынка — кластеры для инференса, где сегодня доминирует Nvidia. При этом компания уже получила оценку в $21 млрд, заключила контракты на поставку ИИ-серверов более чем на $1 млрд и отгрузила первую стойку клиенту.

На чём строится ставка Etched

Etched делает не универсальный GPU, а специализированный ИИ-ускоритель Sohu, рассчитанный именно на инференс в трансформерных моделях. На этой архитектуре работают ChatGPT, Claude, DeepSeek и Qwen.

Инференс — это использование уже готовой модели без изменения её параметров. Etched исходит из того, что по мере распространения ИИ ключевой нагрузкой становится не обучение, а именно запуск моделей в рабочих сервисах.

Чем Sohu отличается от подхода Nvidia

Компания разделяет инференс на два этапа:

• •prefill — обработка запроса и всего его контекста;
• •decode — генерация ответа токен за токеном.

На этом участке Etched пытается выиграть у Nvidia за счёт специализации. По данным из исходного сообщения, задержка обмена данными у решения снижена примерно с 4000 до 700 нс по сравнению с Nvidia Blackwell.

Это важное различие в подходах: Nvidia предлагает универсальные ускорители для широкого круга задач, тогда как Etched фокусируется на конкретном сценарии — быстром исполнении трансформерных моделей в инференсе.

Что это говорит о рынке

История Etched показывает, что в ИИ-инфраструктуре появляется всё больше компаний, которые пытаются конкурировать не «в лоб» с универсальными чипами, а через узкую оптимизацию под конкретную нагрузку. В случае Etched такой нагрузкой стал инференс, который для массовых ИИ-сервисов напрямую влияет на скорость ответа и эффективность серверных стоек.