Google представила ускорители TPU 8i Max и 8tx для агентных задач

Google расширила линейку ускорителей восьмого поколения до четырёх систем, добавив TPU 8i Max и 8tx. TPU — собственные чипы Google для работы моделей, альтернатива видеокартам Nvidia.

TPU 8i Max собран из двух объединённых TPU 8i: вдвое больше вычислительной мощности, вдвое больше быстрой памяти на кристалле и пропускной способности памяти HBM. Его позиционируют под длинные контекстные окна и агентные задачи, где модель держит в памяти много текста.

TPU 8tx сделан под конфиденциальные вычисления: данные защищены аппаратно прямо во время обработки, так что на чужой площадке можно запускать модель на чувствительных данных и дообучать её на них.