Tensordyne

Знакомьтесь, Tensordyne — ребята из сферы «железа», которые делают системы AI-инференса для дата-центров. Их главный продукт, Tensordyne Napier, представляет собой стоечную вычислительную платформу. Если просто: она создана для того, чтобы запускать большие языковые модели и другие генеративные AI-нагрузки быстрее и дешевле, чем на привычных серверах с GPU.

Секрет кроется в собственном чипе NapierChip. Вместо стандартной арифметики с плавающей запятой разработчики использовали логарифмическую математику. Это позволило заметно снизить энергопотребление и задержки (latency).

Архитектурно система Napier состоит из нескольких частей: вычислительного ядра NapierMath, лотков NapierCompute Tray, где размещаются чипы, и интерконнекта NapierScale-up для объединения этих лотков в единую сеть. Кстати, система охлаждается воздухом, так что её легко интегрировать в уже существующую инфраструктуру дата-центра без лишней головной боли.

В производстве Tensordyne опирается на серьезных партнеров: чипы делают Broadcom и TSMC, а за сетевые решения отвечает Juniper Networks. Компания работает над технологиями еще с 2019 года: чипы первого поколения Scorpio уже ушли заказчикам, а следующее поколение Napier по техпроцессу 3nm запланировано к выпуску в 2026 году.

Кому это нужно? В первую очередь крупным AI-операторам: облачным провайдерам и корпорациям, которые разворачивают генеративный AI в промышленных масштабах. Важный нюанс: система заточена именно под инференс. То есть она не обучает модели с нуля, а запускает уже готовые. Это критически важно для сервисов с огромным потоком пользователей, где скорость ответа и стоимость одного запроса напрямую влияют на прибыль. По сути, Napier пытается решить главную проблему индустрии — избавить бизнес от необходимости выбирать между высокой производительностью и огромными счетами за электричество.