AMD купила Taalas — разработчика чипов с вшитыми в кремний весами моделей
AMD закрыла покупку разработчика чипов Taalas, сумма сделки может дойти до 2,9 млрд долларов, из них 1,4 млрд — условные выплаты по достижении показателей. Taalas делает ускорители, в которые веса модели зашиты прямо в кремний.
Такое совмещение хранения и вычислений избавляет от дорогой высокоскоростной памяти и сложного корпусирования — главных статей расходов в современных ускорителях. В феврале стартап показал первый чип HC1 с моделью Llama 3.1 8B: по его замерам, около 17 тысяч токенов в секунду, почти вдевятеро быстрее Cerebras на тот момент.
Плата за скорость — жёсткость: чип выпускается под конкретную модель и перепрошить его под другую нельзя.