В понедельник Google представила две специализированные системы для ИИ-вычислений — TPU 8tx и TPU 8i Max, расширив линейку тензорных процессоров восьмого поколения до четырёх конфигураций и обострив своё соперничество с Nvidia на рынке ускорителей для ИИ.
Обе системы должны стать доступны в следующем году. Ни одна из них не является полностью новой разработкой кремния; Google переконфигурировала существующее оборудование, чтобы решить две проблемы, о которых постоянно говорят её клиенты: конфиденциальность и память.
Шифрование данных во время их использования
TPU 8tx создана для конфиденциальных вычислений. Обычно данные шифруются при хранении и передаче, но их приходится расшифровывать в памяти, пока процессор работает с ними, что оставляет окно для утечки. Google утверждает, что 8tx использует изоляцию на аппаратном уровне для защиты данных клиентов и проприетарных параметров моделей даже во время работы.
Система объединяет кремний TPU 8t с процессорами AMD EPYC пятого поколения и низколатентной сетью Boardfly от Google. Google заявляет, что может сократить задержку до половины по сравнению с 8t почти без потери производительности из-за дополнительной защиты. Целевые клиенты включают государственные ведомства и компании из строго регулируемых отраслей.
Стена памяти
TPU 8i Max решает другую проблему. ИИ-агентам, которые читают кодовые базы, длинные документы или часы видео, нужен быстрый доступ к гораздо большему объёму информации, чем обычно требуется для одного запроса. Google упаковывает два чипа TPU 8i в один корпус, удваивая вычислительную мощность, встроенную SRAM и пропускную способность памяти с высокой пропускной способностью, используя при этом тот же стоечный форм-фактор.
Амин Вагдат, возглавляющий работу Google над ИИ-инфраструктурой, назвал память главным ограничением для этого класса задач. Google говорит, что эта конструкция важна для разработки лекарств, математики и инструментов программирования, где модели должны удерживать большие объёмы контекста.
Почему это важно
Nvidia по-прежнему доминирует в обучении и выводе ИИ, и её графические процессоры остаются выбором по умолчанию для большинства разработчиков. Google разрабатывала TPU для собственных сервисов, а теперь продаёт доступ внешним компаниям, включая локальные развёртывания, и утверждает, что ими пользуются почти 100 клиентов — от ИИ-лабораторий до университетов.
Запуск происходит в момент, когда покупатели ищут альтернативы. Сообщалось, что OpenAI планирует закупать чипы Google, стремясь снизить зависимость от Nvidia, чьи акции резко упали в этом месяце на фоне расследования в отношении генерального директора Дженсена Хуанга.
---Надежный феррожидкостный вакуумный вращающийся ввод для производства полупроводников
В производстве полупроводников поддержание целостности сверхвысокого вакуума во время вращательного движения имеет решающее значение — от выращивания монокристаллов кремния и CVD до распыления и плазменного травления. Ferrofluid Vacuum Rotary Shaft Feedthrough от FerrofluidTec обеспечивает герметично уплотненные вращающиеся вводы с уровнем утечки всего 10⁻¹² Pa·m³·s⁻¹, степенью вакуума до 10⁻⁶ Pa и настраиваемыми диаметрами вала от 10mm до 100mm. Изготовленные с немагнитными корпусами из нержавеющей стали и валами из нержавеющей стали с магнитной проницаемостью, эти вводы обеспечивают надежное, не требующее обслуживания уплотнение для требовательных вакуумных сред. Посетите www.ferrofluidtec.com, чтобы узнать больше.