Google представил TPU для конфиденциального обучения и с большей памятью

Google представил два новых тензорных процессора (TPU — специализированные чипы для ускорения задач машинного обучения), которые расширяют его портфель аппаратных решений для искусственного интеллекта. Первый чип ориентирован на конфиденциальное обучение моделей, то есть позволяет обрабатывать данные в зашифрованном виде, не раскрывая их даже самому провайдеру облачных вычислений. Второй чип отличается увеличенным объёмом памяти, что особенно важно для работы с крупными языковыми моделями (LLM) и сложными нейросетями, требующими хранения больших массивов промежуточных данных.

Эти анонсы продолжают стратегию Google по снижению зависимости разработчиков от сторонних графических процессоров (GPU), которые традиционно доминируют в сфере ИИ. Собственные TPU компании уже используются в её облачных сервисах, но новые версии добавляют функциональность, ранее доступную только на универсальных ускорителях. Детали о датах коммерческой доступности и ценах в материале TechCrunch не раскрываются, однако подчёркивается, что чипы предназначены для более широкого круга сценариев, включая обработку чувствительных данных в регулируемых отраслях.

Для разработчиков и бизнеса это означает появление альтернативы дорогим GPU при работе с крупными моделями и одновременно возможность соблюдать строгие требования к конфиденциальности данных, например в финансах или здравоохранении. Увеличенная память на новом TPU также упрощает обучение и инференс (выполнение уже обученной модели) без необходимости разбивать задачу на множество мелких фрагментов, что экономит время и снижает затраты на облачную инфраструктуру.