К содержанию
Гаджеты Новость

Q.ANT и AMD показали LLM на фотонном чипе, но не первыми

Немецкая Q.ANT на SC26 продемонстрировала гибридный инференс: часть слоёв модели на 1 млрд параметров перенесли с GPU AMD на фотонный сопроцессор. Однако в апреле 2026 года британский стартап Lumai уже запустил LLM на оптике.

Немецкая компания Q.ANT совместно с AMD представила на конференции SC26 в Чикаго гибридный инференс (процесс работы уже обученной модели) языковой модели объёмом около 1 млрд параметров. Часть слоёв модели перенесли с видеокарты AMD Instinct MI210 на фотонный сопроцессор NPU Gen 2+, который выполняет дискретное преобразование Фурье (математическую операцию) с помощью света за один проход. Разработчики утверждают, что замена self-attention (механизма внимания, требующего много вычислений) на оптическое преобразование Фурье ускоряет инференс и сжимает KV-кэш (память для хранения промежуточных данных). Однако в пресс-релизе компания назвала свой запуск «первым в мире», хотя ещё в апреле 2026 года британский стартап Lumai уже запустил полноценную LLM (языковую модель) на оптике на своём сервере Iris.

Ключевые метрики в анонсе не раскрыты: не названа конкретная модель, не приведены перплексия (показатель качества генерации) и результаты на стандартных тестах, а также не указаны реальный прирост скорости в токенах (единицах текста) в секунду и итоговое сжатие KV-кэша. Снижение энергозатрат описано лишь как «потенциально значительное». Ранее, в июне 2026 года на конференции ISC в Гамбурге, Q.ANT показывала на чипе прошлого поколения генерацию изображений через диффузионную модель на 59 млн параметров, заявляя о 30-кратной энергоэффективности на уровне оптической схемы, но это были расчётные цифры.

Серийные системы с поддержкой таких вычислений Q.ANT планирует выпустить во второй половине 2027 года. В сентябре 2026 года компания выложила открытый SDK (набор инструментов для разработчиков) с API (интерфейсом для взаимодействия) на C и Python и эмуляцией на CPU (центральном процессоре), который сейчас обновляют под новые Фурье-слои. Доступ к ускорителям предыдущего поколения открыли 9 ноября в виде закрытой беты на серверах IONOS в Германии. Для тех, кто работает с ИИ, практический вывод пока сдержанный: без публичных бенчмарков (тестов производительности) и независимых отчётов от суперкомпьютерных центров LRZ и JSC, куда чипы уже уехали, говорить о реальной замене традиционного внимания в LLM преждевременно.

Первоисточник

habr.com ↗

Отправить в Telegram

Новость подготовлена с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.