Стартап Volantis из Сан-Франциско привлек $88 млн, чтобы соединить ИИ-ускорители с памятью лазером вместо медных проводников. Источник света компания выбрала давно знакомый: VCSEL (лазеры с вертикальным резонатором), которые отвечают за распознавание лица Face ID в iPhone и выпускаются сотнями миллионов штук.
Скорость работы нейросети упирается в то, как быстро вычислительный чип получает данные из памяти, где хранится модель. Nvidia и AMD окружают свои ускорители дорогой высокоскоростной памятью HBM, но электрические дорожки дотягиваются лишь на 2–5 мм. Поэтому даже лучшие современные чипы Nvidia вмещают вокруг себя только восемь модулей HBM. Оптические волноводы Volantis передают данные на расстояние больше 200 мм, и вокруг одного вычислителя можно собрать больше 220 микросхем памяти.
На этом построена система A-1, первый продукт компании. По данным Volantis, в ней 10 ТБ памяти с пропускной способностью около 240 ТБ/с, она потребляет 20 кВт и занимает примерно треть стандартной серверной стойки. Компания обещает запускать модели больше чем на 20 трлн параметров со скоростью до 10 тысяч токенов в секунду на пользователя. Сооснователь стартапа и гендиректор Тапа Гхош (бывший стипендиат программы Питера Тиля для молодых предпринимателей) переводит это на язык разработчика: агент для программирования будет справляться с задачей за 30 секунд вместо 30 минут. На странице продукта компания заявляет и в 15 раз больше токенов на доллар по сравнению с Nvidia Rubin, но это пока собственная оценка.
Выбор VCSEL объясняется логистикой. Apple за последнее десятилетие вложила много денег в производство этих лазеров, их делают из арсенида галлия, и поставки не страдают от дефицита фосфида индия, на котором держатся лазеры для оптических сетей. По словам компании, связь расходует меньше одного пикоджоуля на бит и стабильно работает при температуре выше 95 °C.
Память стала одним из главных ограничений для развития ИИ. Глава Micron Санджей Мехротра считает, что дефицит оперативной памяти сохранится как минимум до 2028 года. Из-за этого компаниям придется платить за нее значительно больше, чем в 2026 году.
Стартап Volantis предлагает использовать более дешевую внешнюю память: объединять ее в общий пул и при этом увеличивать и объем, и скорость работы. Конкуренция в этой сфере растет. Днем ранее о себе заявила Cscale — она тоже разрабатывает оптическое соединение между памятью и ИИ-ускорителями. Стартап уже привлек 145 млн долларов.
Первые системы A-1 Volantis обещает передать клиентам в 2027 году, причем вычислительные ядра в них будут лицензированными, а собственной разработкой компании останется именно оптика, над которой команда работает больше четырех лет.
